AIを用いたサイバー攻撃で浮き彫りになる「人の脆弱性」──攻撃者の“クリエイティビティ”に対抗する術

サイバー攻撃者がもつ“クリエイティビティ”

　IT業界に30年以上勤め、Micromuseの設立やMoogsoftでのAI開発といった経歴をもつフィル・ティー（Phil Tee）氏。現在は、ZscalerでAIイノベーション担当として、1日あたり500兆件にも及ぶ企業のログデータを収集・分析できる環境に身を置いている。

　「近年、AIの活用はより社会にも浸透しており、当社のトラフィックを見ると生成AIの活用率はここ1年で約3000％上昇している。生成AIは我々の生活に様々な恩恵をもたらすが、それは攻撃者にとっても同様だ」と同氏は語る。特に、フィッシング詐欺は非常に洗練された巧妙な手口で行われるようになった。たとえば、ディープフェイクによって、本人になりすます詐欺行為は今まで以上に高度化している。

　「AIは、攻撃が成功するまで大量の試作を繰り返して防御壁を突破するといった、時間と労力がかかる攻撃手法を一瞬で可能にしてしまいます。攻撃者はAIを仲介者として利用し、侵入を行うのです。さらに、攻撃者には驚くべきクリエイティビティをもっている者も多く、企業は今“その先”をいく対策をすることが求められています」（ティー氏）

　また、サイバー攻撃の高度化にともない、より一層注視しなければいけない脅威に“人の脆弱性”がある。Zscalerの調査では、「Dark Snake」と呼ばれる攻撃グループがCIPHER INVESTMENTSという企業を標的としたサイバー攻撃の事例が観測された。その攻撃は、主に以下のようなシナリオで実行されたという。

1. 攻撃対象領域の特定
2. AIを活用したフィッシングとボイスフィッシングの組み合わせによる初期侵害
3. ポストエクスプロイトツールキットを使用したマルウェアのインストールと拡散
4. AIモデルの改ざんとデータ漏洩

　ここで注目したいのが、2つ目にある初期侵害の攻撃手法だ。この事例では、攻撃者がAIを用いて企業のヘルプデスク担当者のクローンを作成した。つまり、ヘルプデスク担当者と同じような声を発する“もう一人のヘルプデスク担当者”を作り出したのだ。

　1の段階で6人の特権ユーザーを特定し、そのメンバーに「不審なログイン活動が検出されました。5分以内に確認が必要です」といった内容のスパムメールを送る。メールを送信した後、5分以内にクローン化されたヘルプデスクが6人の従業員に電話をかけ始めた。

　今回の事例では、6人の従業員のうち1人がこの攻撃に応答してしまった。その従業員はスパムメールこそ反応しなかったものの、ヘルプデスクの電話番号が変わったのだと思い、電話に応答してしまったのだ。