総務省が「AIを守る／AIで守る」の2視点で進めるセキュリティ政策　生成AIで拓く新たな防御の可能性

“脅威”にも“盾”にもなる。総務省の視点で紐解くAIセキュリティの現況

　過去20年間でサイバー攻撃の目的と手法は大きく変化している。当初は愉快犯的なものが多かったが、次第に金銭目的の組織犯罪へと移行し、さらに地政学的・戦略的な背景をもつ国家レベルの攻撃が顕著になってきている。攻撃の性質も“分かりやすいもの”から“見えにくく長期化するもの”に変化し、現在では重要インフラやサプライチェーン全体を標的とする巧妙な攻撃が常態化しつつある。

　こうした流れを受けて、サイバー攻撃から資産を守る側の対応も変化している。単なる技術的な防御だけではなく、社会的リスクマネジメントや安全保障の観点を含めたアプローチへと変わってきているのだ。

　そこで総務省では、有識者を集めた「サイバーセキュリティタスクフォース」を2017年1月に立ち上げ、検討を進めてきた。同タスクフォースには、サイバーセキュリティに携わる学者、実務者、法律家など様々な専門家が参画し、総務省のサイバーセキュリティ政策について議論が進められている。

　2024年2月には、このタスクフォースの下に「ICTサイバーセキュリティ政策分科会」が設置され、同年7月に中期重点方針がとりまとめられた。この方針では、AIに由来するリスクの回避・低減と、AIを活用したセキュリティ対策の促進が明記されている。つまり、新しい脅威になりうる一方で、セキュリティを強化するための手段でもあるという“AIの二面性”が政策的に整理されたというわけだ。

　まず、今後増加するであろう“AIに対する攻撃の例”として、中村氏は以下を挙げた。

• 入力による攻撃：外部から文言でAIに意図しない指示を出し、安全策を迂回させたり誤った出力を引き出したりするもの。プロンプトインジェクション、Jailbreakなどがこれにあたる
• モデル逆解析：AIの出力や応答の振る舞いから学習データやパラメーターを推測し、機密や知的財産を摂取するもの。モデル反転攻撃、メンバーシップ推論、抽出攻撃などがこれにあたる
• DoS攻撃：見た目は通常の入力ながら、AIの計算処理に過負荷をかけ、サービス遅延や停止に追い込む攻撃。スポンジ攻撃などがこれにあたる

　対して、“AIを悪用した攻撃”には次のようなものが挙げられる。

• 攻撃コンテンツの生成：AIで自然な文章や画像を自動生成し、フィッシングや偽情報拡散に利用
• 攻撃コードの生成：マルウェアを書き換えたり変異させたりして、検知をすり抜けやすくする
• なりすまし：人物の声やディープフェイク画像を使った詐欺や偽情報の拡散
• 攻撃プロセスの自動化・拡大：偵察から標的選定、展開までをAIで自動化し、低コストで大規模にサイバー攻撃を実行

　こうした状況を踏まえ、中村氏は、「AI時代のセキュリティは『Security for AI（AIを守る）』と『AI for Security（AIで守る）』の2つの側面で考える必要がある」と指摘する。Security for AIは、生成AIなどのAIを狙った攻撃からAIそのものを守る取り組みであり、AIを安心して使うための不可欠な考え方。AI for Securityは、攻撃者がAIを使って効率化を進めている以上、防御側もAIを活用して対抗するというアプローチだ。

　「防御側がAIを活用することで、従来課題であったスピードや規模の面で攻撃側のスペックに追いつき、場合によっては追い越すことも可能になります。今後のセキュリティはこの2つの両輪を同時に回すことが重要です」（中村氏）

　実際、総務省では「Security for AI」として、「生成AIの進展によるサイバーセキュリティへの影響調査・検証」「米国専門機関とのAI安全性に関する共同研究」を進めている。また「AI for Security」の側面では、「AIを用いたサイバー脅威情報の収集・分析の高度化」「生成AIを活用した重要分野におけるサイバーセキュリティ対策の強化」に関する取り組みを進行している。