1000件超の重要IoT機器情報が野放し／SNS悪用も加速……横国大 吉岡教授が語る最新サイバー脅威

AIが6億件超のメッセージを分析　SNSでの“隠語”解読にも

　これらの膨大な観測データを処理し、分析の精度を高めるために不可欠なのがAIだ。吉岡氏の研究室では、現在82％の学生がメインの研究手法にAIを取り入れているという。具体的には、以下のような場面でAIを活用しているとのことだ。

• ハニーポットの運用自動化：未知の攻撃がハニーポットに到達した際、過去の脆弱性パターンと照らし合わせ、その攻撃がどういったものかをAIが判定。これにより、人間が介在する手間を削減しているほか、観測された脅威レベルの自動判別なども実現している
• 管理画面のプロファイリング：OSINTで見つかった数多の管理画面に対し、それがどのインフラ（ダムなのか、カメラなのかなど）を制御するものかをLLMで高精度に判別。人間が目視で行っていた作業をAIが代替することで、大規模な調査が可能となった
• SNS・ダークウェブの監視：SNS上でやり取りされる攻撃者同士の会話をAIで監視。Telegramだけで6億件、Discordで8万件を超えるメッセージをAIエージェントが自動的に巡回・検索し、リスクの高い情報を抽出している

　SNS監視においては、AIを用いることで攻撃者特有の“隠語”も解読できるようになった。たとえば、クレジットカード情報を売買する際の「wts fresh cc 20dl pp（＝Want to sell fresh〔leaked〕credit card info for 20$ via PayPal……新しくリークされたクレジットカード情報をペイパル経由で20ドルで売ります）」といった表現や、仲介者を用いた取引を意味する「MM（Middle man）」、児童ポルノを指す「CP（Child Pornography）」、さらにはCPという隠語をカモフラージュする「Pizza」といった表現までも、AIは文脈から正しく理解し、カテゴリ分けを行えている。

　HUMINTの領域では、言語の壁や上記のようなスラングの解読の難しさ、各国の法規制の理解といった数多くの課題が研究者たちを苦しめてきた。現在は、これらをAIで自動化できるシステムを構築中の段階とのことだ。最終的には、攻撃者グループとAIエージェントが実際に会話をして、情報を収集できる形を目指している。現時点でAI同士のロールプレイングを重ねながら、出力された情報が法的・倫理的に問題ないかを確認するフェーズに入っており、その確認もLLMで実行できないか検討中の最中だとした。

　研究室でのAI活用について、吉岡氏は「GPUの費用が10.7倍になった」と苦笑しつつも、膨大なデータ量を捌くための手段として有効なものだとする。AIを前提とした分析体制への移行は、サイバー空間という広大な領域をカバーする強力な手段だ。

　「組織や施設の脆弱性および侵入経路は常に探索され、攻撃者によって共有・販売されています。そのため、企業はこういった現状を早く把握し、攻撃者に侵入される前提で対策を進めレジリエンスを向上させる必要があります。

　我々は情報収集のためにAIを活用していますが、それは攻撃者も同じです。AIの悪用は既に各所で話題に上がっていますが、今後はいかに新しい技術を効果的に活用し、攻撃者を上回る対策ができるかがポイントになるでしょう」（吉岡氏）