KELAは、生成AIセキュリティソリューション「AiFort」を発表し、4月19日より国内販売開始することを発表した。
AiFortは、生成AI/LLMをセーフティ、セキュリティ、プライバシーの3つの観点で保護するため、AIモデル学習用データセットや模擬攻撃などを提供。開発から運用までMLOpsライフサイクル全般をカバーし、安全な生成AIモデルを構築・運用できるよう支援するという。
また、犯罪社会を常時監視することで収集・蓄積したデータに基づいており、実際の犯罪の背景にある情報や最新の脅威動向が反映されているため、現実的な対策を講じることができるとのこと。同ソリューションは、「AiFort suite」として、以下3つの機能とサービスを提供するモジュールで構成されるとしている。
- AiFort Data：生成AIモデルのトレーニングで利用する脅威インテリジェンスに基づくデータセット。最新の脅威動向や犯罪技術などを反映したAiFort Dataを利用して、生成AIモデルに学習させることで、セキュリティを強化できる
- AiFort Red：AIモデルの信頼性と安全性を診断するための脅威インテリジェンスに基づくアドバーサリーエミュレーション（攻撃模倣プログラム）。ユーザーがテストプランを作成し、AiFort Redが模擬攻撃を実行。分析・診断結果をダッシュボードで把握できる
- AiFort Protect（2024年中に提供開始予定）：悪意のある不正なプロンプト入力をリアルタイムに検知・通知する。プロンプトインジェクションやデータ漏洩、ハッキングなどの不正行為を防ぐことができる
［画像クリックで拡大表示］
【関連記事】
・米国大手企業の多くが生成AI採用の取り組みに慎重、セキュリティとガイドラインが懸念点【PagerDuty調査】
・Zscaler、セキュリティへのAI活用強化に向けAvalorを買収 脆弱性のより効果的な特定を可能に
・日本企業のセキュリティにおけるAI・自動化活用の現状とは【パロアルトネットワークス調査】
