LINEヤフーが数万規模のAI活用を支える基盤構築、柔軟性と堅牢性を兼ね備えた設計思想と構成要件とは

高度なデータ保護をどう実現する？大規模エージェントプラットフォームの全容

　1つ目の軸である「開発の民主化」に向けては、AI専門の高度な技術をもたない社内の一般エンジニアやビジネス担当者であっても、直感的なUIベースでエージェントを迅速に構築・管理・デプロイできる「Agent Builder」およびその実行エンジンである「Runtime」を社内で提供。導入から2ヵ月で、100以上の自律的なワークフローが作成・運用されるに至っている。

　さらに、社内に散在する膨大な独自データや既存の多種多様なシステム資産とエージェントを、安全かつシームレスに相互接続するための標準仕様として、AI業界の最新オープンスタンダードであるMCPを全面採用した「MCP Hub」を独自に構築。このMCP Hubは、大規模なリクエストをスケール性を確保しながら実行する「Runtime」、外部環境や他システムとの安全な通信を仲介する「Gateway」、社内のエージェント資産やツールを一元的に可視化して再利用性を高める「Catalog」という3つのコンポーネントから構成されており、現在既に150以上の社内サーバーがこのハブに接続され、統制の取れた一元管理体制が確立されているという。

　2つ目の軸である「高精度なパーソナライズ」の実現に向けては、ユーザーとの日々の対話履歴から重要な事実やコンテキストのみを抽出・要約し、安全に構造化保持する「Long-Term Memory（長期記憶）」システムを構築した。同システムは現在、1ユーザーあたり平均7エントリの記憶を保持し、次回以降の対話時に個別最適な応答を生成するためのコンテキストとして活用されているが、記憶の管理においては、短期的な予定、過去の普遍的な好み、プライバシーに関わる機微な情報の識別と保護を制御する仕組みが導入されている。今後は、複数のデータソースや多様なアセット情報をリアルタイムで集約・統合する「Memory Orchestrator」の開発を加速させ、パーソナライズの精度を向上させていく計画だとしている。

　3つ目の軸である「堅牢なガバナンス」の実現に関しては、数万規模のエージェントが自律的に乱立する巨大な環境において、実行コストの増大と出力されるコンテンツの品質および安全性の管理が深刻な課題となる。コストコントロールの観点では、同社はすべてのエージェントに対して画一的な最高性能の大型LLMを適用する非効率なアプローチを排除し、処理すべきタスクの難易度、データの機微性、および許容されるレイテンシ（遅延）に応じて、適切な処理モデルを動的かつ自動的に選択する「モデルルーティング戦略」を採用した。

　たとえば、定型的なデータのフォーマット変換や単純なテキスト処理には軽量なローカルモデルを割り当て、高度な推論や複雑な計画立案が必要な処理にはリモートの大型フラッグシップモデルを呼び出し、ユーザーのプライバシー保護が最優先される機微な情報の処理にはオンデバイス（端末内）モデルを割り当てる。また、乱立するエージェントの健全な統制とリアルタイムの品質監視を維持するため、前述の「Agent Catalog」を中核とし、メタデータ、プロファイル、実行ポリシー、そして現在稼働状態にあるすべてのエージェントのヘルスチェックを中央で一元的にモニタリングできるシステムを確立した。

　そして、セキュリティおよびコンプライアンス上のリスクに対する防御策として、同社は「プロンプトインジェクション防御」「個人データマスキング」「有害コンテンツ検知」「オフトピック検知」「機密情報分類」という社内AIガードレールを内製化。特に並木氏が強調したのは、これらのガードレールが単に入出力のゲートに設置された単純な一過性のフィルターではなく、ユーザーのプロンプト入力時、エージェントの思考ステップにおける中間出力時、外部APIやツールの呼び出し時、ツールからの戻り値の受信時、ユーザーへの最終応答生成時といった「Runtime内部」に直接インラインで組み込まれている点だ。これにより、悪意あるプロンプトによるモデルの乗っ取りや、意図しない個人情報の外部流出、不適切な表現の出力を、パフォーマンスを犠牲にすることなくリアルタイムでブロックし、徹底した安全性の担保と高度なデータ保護を両立させているという。