悪意あるAIツールと手法、2024年は前年比で200％増加──KELA調査

　KELAは、「2025年版AI脅威レポート：サイバー犯罪者はいかにAI技術を兵器化しているか」を公開した。

　サイバー犯罪者は、ジェイルブレイク手法などを用いてChatGPT、Gemini、DeepSeek、Claudeなどの生成AIアプリケーションのセキュリティ制限を回避し、ユーザーの機密データにアクセスしてそれを盗み出すが、KELAは過去1年間、新しいバージョンがリリースされるたびに、サイバー犯罪コミュニティでジェイルブレイクテクニックを共有して広めているのを観察してきたという。同レポートの注目ポイントは次のとおり。

• ジェイルブレイク手法が急速に進化：脅威アクターは、AIシステムのセキュリティ制限を回避するためのジェイルブレイク手法を継続的に改良しているという。2024年は、ジェイルブレイク手法に関するサイバー犯罪フォーラムでの議論が、前年比で52％増加したことを確認したとのことだ
• サイバー犯罪フォーラムでのAI活用が急増：KELAのサイバー脅威インテリジェンスプラットフォームでは、悪意あるAIツールや手法に関する言及が2024年は2023年と比較して200％増加しており、AIを活用したサイバー犯罪のアンダーグラウンド市場が拡大していることが浮き彫りになったとしている
• ダークAIツールの拡散：サイバー犯罪者は、ジェイルブレイク済みのAIモデルや、WormGPT、FraudGPTなどのサイバー犯罪向けAIツールを配布・販売しており、フィッシング、マルウェア作成、詐欺行為を自動化しているという
• AIを活用したフィッシングキャンペーンがますます高度化：AIによって生成されたフィッシングおよびソーシャルエンジニアリング手法は効果が高まっており、ディープフェイク技術を用いて経営幹部になりすまし、従業員に不正取引を実行させるケースが増えているとのことだ
• マルウェア開発の効率化：脅威アクターはAIツールを活用し、大量の高度かつ回避性の高いマルウェア（ランサムウェアや情報窃取型マルウェアを含む）を生成しており、セキュリティチームによる検知と対処が一層困難になっているという

【関連記事】
・IPA、「JC-STAR」運用開始　セキュリティレベル「★1」の申請を受付、交付は5月上旬見込み
・1日に330万回のサイバー攻撃を検知、攻撃総数は前年比154％増──サイバーセキュリティクラウド調査
・「サイバーセキュリティアワード2025」の大賞はアニメ「こうしす！」が受賞