ダークウェブで提供される、犯罪者向けの生成AIサービス
「AI」はサイバー攻撃の世界すら様変わりさせている。もはや攻撃者にとってLLMやディープフェイク動画の作成ツールは、攻撃の成功率を高めるために欠かせない武器となった。2024年に米国のCISOを対象にした調査では、AIリスク関連の予算が劇的に増加したことが報告されている。その中で最大のリスクと目されているのは、AIによるフィッシング攻撃だ。
とはいえ日本では、AIによるフィッシング攻撃への危機感はまだそう高くないのが現状だろう。そこには保守的なスタンスはもちろん、セキュリティ予算も関係してくるとしてイスラエル国防軍8200部隊出身で、AironWorks 共同創業者／CTOのゴネン・クラック氏は「米国では常に次の脅威に警戒しており、事前準備を重視する傾向にあります。加えてサイバーセキュリティ対策に多くの予算が投資されています」と説明する。
現在フィッシング攻撃において、大きな脅威として警戒されているのは、ダークウェブ上で提供される「FraudGPT」という悪意ある生成AIツール（プラットフォーム）だ。特に警戒すべきがスピアフィッシング向けの機能で、標的に関する情報を収集した上で効果的なフィッシングメールを生成できる。他にも本物に似せたWebサイトの作成、Webサイトをスキャンして脆弱性を検出するといった機能が月額数百ドル程度で利用できてしまう。これほど攻撃者に有利なツールがあれば、今後ますますサイバー攻撃が高度化・巧妙化していくと見ていいだろう。
また過去10年における傾向から「ソフトウェアの安全性が高まっている」とクラック氏は話す。昨今、OSやブラウザの脆弱性を見つけることが難しくなっており、攻撃者はソフトウェアの脆弱性ではなく、人間の脆弱性に活路を見いだすようになってきた。
「組織に侵入するための最も簡単な方法は『人の脆弱性』との認識が広まりつつあります。ソフトウェアの脆弱性を見つけるより、従業員を騙してマルウェアをインストールしたり、クレデンシャルを入手して侵入したりする方が簡単で効率的だからです」（クラック氏）
2025年1月、ハーバード大学の研究者らは、大規模調査に基づいたフィッシングメールに関する興味深い論文を発表した。被験者を4つのグループに分け、フィッシングメールのクリック率を比較。第1グループには人間がテンプレートを元に作成したフィッシングメールを、第2グループには専門家が作成した洗練されたフィッシングメールを、第3グループにはAIモデルのみを使用したものを、第4グループには人間がAIモデルに指示して作成したものをそれぞれ送信した。
そうするとAIモデルを使用したものは、専門家が作成したものと同等との結果が表れたのだ。「最新のAIでは、専門家が作成するものと同レベルのフィッシングメールを作成できることを示しています。この点において、AIは人間に追いついたと言えるでしょう」と警鐘を鳴らす。
「メール訓練による教育は欠かせない」そのワケは？
先述したようにフィッシング攻撃やディープフェイクが巧妙化するなか、企業はセキュリティ意識向上のための教育・訓練やポリシー強化などで対抗しようとしている。「これからの組織は『教育』と『検出』の両軸で対策を講じることになります」とクラック氏。同氏が関係者と議論するなかで、印象に残っている言葉があるという。
それは「メール訓練は年に一度ほど実施しており、クリック率は50％と高いが、あまり気にしていない。従業員がクリックしてしまうのは避けられないため、検出に注力している」という、とある組織のセキュリティ担当者による発言だ。
こうした割り切りについて「とても危険だ」とクラック氏は指摘する。そのポイントは2点ある。1点目は、メール訓練のクリック率が半数に上るということは、従業員への教育が適切に行われていないことを示していることだ。クラック氏は「メール訓練でクリック率は1％まで下げられます。そもそも10％以上という数字は、やり方自体に問題があるでしょう」と話す。
2点目は、フィッシングが成功しやすい組織は大きなリスクを抱えることになることだ。たとえばクリック率が2％と50％となったとき、50％の企業を狙った方が管理者権限などの重要なアカウントを窃取できる確率も高まる。クリックしてしまうのは避けられないと諦めている企業は、攻撃者から見ると“脇の甘い組織”と目されることにもなりかねない。
加えて、ディープフェイクのリスクについてもクラック氏は言及する。日本におけるディープフェイクといえば、対岸の火事と捉える担当者は少なくないが、海外では深刻な被害をもたらしはじめている。
たとえばイスラエルの大手銀行で起きた、なりすまし攻撃が好例だ。攻撃者は銀行幹部の講演から得た音声を学習させて、幹部に似せた合成音声を作成。銀行関係者に「このクライアントに緊急の送金が必要だ」と通話アプリを通じて合成音声で送金指示をした。メールではなく、音声による指示だと騙されてしまう人も多く、偽の音声（あるいは動画）を使用した攻撃は増えていくと予測される。
あるいはフェイクニュースで、多くの人を混乱に陥れるような攻撃も指摘されて久しい。たとえば特定の政治家になりすまし「災害が発生した」と発表する動画を拡散することで世間をパニックに陥れ、株価を下落させるなどの経済・社会的な影響を与えるといったものだ。クラック氏は「欧米の企業・組織は、フィッシングやディープフェイクによるリスクを十分に理解しています。今まさにこうしたリスクへの対抗策を考えるタイミングが到来しているのです」と述べる。
メール訓練の作業自動化で「訓練の質」を高めていく
メール訓練の重要性や有効性を理解しつつも、現実には「工数が確保できない」という課題に直面している担当者も少なくないだろう。
たとえば大手企業の従業員規模では、訓練対象者のリスト作成、メール文面の作成、配信後の結果集計……と大きな工数がかかる。また日本語に対応しているツールを選ぶとなると、その選択肢が限られるという実情もあるだろう。
「AironWorksならば、これまで発生していた作業を当社で担えるため、運用工数を大幅に削減できるだけでなく、訓練の質を高めることも可能です」と話すのは、同社 チーフアナリストの浅井正史氏。クラック氏の所属するAironWorksは、2021年から日本市場に参入しており、メール訓練を実施する情報セキュリティ部門やCSIRTの工数削減において寄与してきた実績を誇る。
これまで担当部署が訓練シナリオを作成するところから準備していたが、AironWorksでは訓練プランのコンサルティングを行い、実際のシナリオ作成も担う。最新動向に基づいたサポートにより、メール訓練の質を高められるという。要件定義し、どのような教育をしたいか理想を突き詰めた上で、プロセスを構築していく。従業員情報の収集、メール配信の登録作業はもちろん、メール環境にあわせた設定や疎通テストを実施するなど、訓練メールが配信されるまでAironWorksがサポートしてくれる。訓練終了後にはレポートに基づき、今後の施策について協議を重ねていく。
実際にとある企業では、リソースの都合からメール訓練を一部従業員にしか実施できていなかったところ、AironWorksによって全従業員を対象に実施できているという。また訓練メールに引っかかってしまった従業員へのフォローも行うなど、訓練の質を高めることにもつながった。
繰り返しになるが、サイバーセキュリティの世界において、攻撃者は人間を狙うようにシフトしている。そうしたなか従業員への教育の多くが過去と同じ訓練、同じ教育ビデオなど、“静的な訓練”に終始していることを問題視して「より動的な訓練に変えていく必要がある」との考えがAironWorksの創立につながった。
「前例踏襲や画一的な教育プログラムなど、旧態依然としたものでは不十分です。自社や業界のニーズを踏まえ、攻撃者に先手を打つ形で対応する必要があるのです。AI技術の進展により、世界は私たちが考えるよりも早く変わっています」とクラック氏。AironWorksには、企業ごとに最適化されたメール訓練を自動化・最適化できるプラットフォームがあるとして、その優位性を実感してほしいと呼びかけるのだった
