米国・公共機関のキーマンと考える、AIの進化との付き合い方──自律的であっても人間の確認は不可欠

自律的に進化するAI：AmazonとCIAのキーマンの見解

　一つ目の「The intelligence edge: AI security strategies from Amazon and the CIA（AIセキュリティ戦略──AmazonとCIAの最前線）」では、AWS Worldwide Security Specialists ディレクターのDanielle Ruderman氏をモデレーターに、Amazon チーフセキュリティオフィサー（CSO）のStephen Schmidt氏、CIA チーフAIオフィサー（CAIO）のLakshmi Raman氏が登壇し、AIがサイバーセキュリティと国家安全保障にもたらす構造的変化について語った。

　AIセキュリティの領域で最も注目すべき変化は、エージェント型AIへの進化である。AmazonのSchmidt氏は、この変化の本質について「最大の変化は、チャットボット形式の会話型統合から、人々の代わりに行動を取るエージェント型AIの台頭だ」と指摘した。

　具体例として、Schmidt氏はAmazonが2025年2月に発表した「Alexa+（アレクサプラス）」の進化を挙げた。「以前は『シアトルでグルテンフリーのレストランは？』と聞くだけだったが、今では次のステップに進んで、実際に予約を自動的に取ることができる」と説明し、AIが情報提供から実際の行動実行へと機能を拡張していることを示した。

　この進化は、政府や企業にとって新たなセキュリティ課題を生み出している。Schmidt氏は「エージェント型AIが特に興味深い理由は、それを求めている人のコンテキスト内でソフトウェアが自律的に行動を取るからである」と述べ、適切な認証・承認プロセスと事後確認の重要性を強調した。特に政府組織では、「機密分類の決定をソフトウェアが行わなければならない場合、アクセス制御の制限がある場所では、実行する前に特定のデータセットにアクセスできる理由が必要だ」と複雑さが増すことを説明した。

　CIAのRaman氏は、この課題への対応として「AIが処理を高速化し、自動化を行うことができる部分だが、最終的にリスクを取り、意図を決定し、決定を下しているのは人間だ」と述べ、AIの能力向上にもかかわらず、人間による最終判断の重要性を強調する。

　この人間中心のアプローチが必要な理由として、Schmidt氏はAIシステムの根本的な特性を挙げた。「多くの人がAIシステムについて理解していないことの一つは、それらが非決定論的ということだ。AIモデルに同じ質問を100回することができるが、毎回同じ答えは得られない」と説明し、この不確実性が人間による確認を不可欠にしていることを明らかにした。

　実践面での成果も顕著に現れている。Schmidt氏は、Amazonにおけるアプリケーション・セキュリティ・レビュー・プロセスの具体例として「第一世代のAI導入により44%の効率向上が既に見られている」と述べ、今後さらなる改善が期待できると語った。