PKSHA、オンプレミスで動作可能なAIエージェントを新たに提供　推論高速化技術で応答速度を短縮

　PKSHA Technology（以下、PKSHA）は、同社が展開するAIエージェント群「PKSHA AI Agents」の新ラインナップとして、国産LLMを含むオープンモデルを導入企業の管理環境（オンプレミス）で高速に動作させるAIエージェント「PKSHA Private AI Agents」の提供を開始した。

　PKSHA Private AI Agentsは、機密性の高い業務領域に対してオンプレミス型AIエージェントを提供するサービス。PKSHAが独自に検証した高速推論基盤を土台とし、導入企業固有の規約やドメイン知識を取り込むことで、業務に適合したエージェントを構築するという。具体的な特長は以下のとおり。

1. 機密情報を外部に出さないオンプレミス完結

　導入企業のプライベートネットワーク内で処理が完結する。ソースコードや設計情報、社内文書などを外部クラウドへ送信することなく、AIエージェントを活用可能。

2. 待ち時間の少ない応答

　オンプレミス環境では応答の待ち時間が課題となる傾向にあるが、PKSHA Private AI Agentsは、応答の続きを先読みして生成を速める推論高速化技術により、オンプレミス環境でもAIの応答を待つ時間を短縮しストレスなくタスクを進められるよう支援する。

　また、モデルを軽量化する技術を併用して必要なGPUメモリを抑え、より安価なサーバ構成で高性能なモデルを運用できる。

3. 要件に応じたモデル選択とサーバ構成

• モデルの自由度：特定ベンダーに依存せず、国産モデルを含む複数のオープンモデルから、性能要件・セキュリティ要件・コストに応じたモデルを選択できる
• サーバ構成の自由度：用途に応じて必要十分な規模のモデルで品質を実現。必要とする性能に応じて求められるサーバ構成（GPUの規模）も変わるため、モデルとサーバ構成を一体で提案する
• EOL対策：クラウドAPI型モデルで生じうる提供終了（End of Life：EOL）やモデル入替えに左右されず、一度業務に組み込んだモデルを企業ごとの判断とペースで継続利用・更新できる

4. 企業固有の業務標準・ドメイン知識への適応

　汎用的なAIエージェントでは、企業固有の業務標準やドメイン知識への適応ができず、出力の手直しに手間がかかりがち。たとえば、PKSHA Private AI Agentsをコーディングに利用する際には、企業のコーディング規約、レビュー観点、開発プロセスを取り込むことで、生成結果を修正する工数を削減する。

5. 導入から運用改善まで一気通貫で支援

　同社がモデル選定、推論基盤の構築、エージェント設計、導入後の運用改善まで、業務内容や利用環境に合わせて支援する。オンプレミスで動作するモデルに対しても、この知見を生かした最適化を行う。

　なお、同ソリューションは現在、ソースコードや設計情報を外部に出せない環境でのコーディング支援を主要な利用シーンとして想定しているという。今後は、ソフトウエア開発・保守での活用を起点に、業務領域ごとに最適化した特化型AIエージェントを順次展開していく計画だとしている。

【関連記事】
・SBI損害保険、PKSHA FAQ土台に社内ナレッジを「作る・貯める・引き出す」循環を実現
・東大松尾研・Anthropic・PKSHA、生成AI活用の社会影響を観測する新プロジェクト始動へ
・松井証券、「PKSHA ChatAgent」導入で“有人オペレーターと話しているような”24時間の情報提供体制を構築