SHOEISHA iD

※旧SEメンバーシップ会員の方は、同じ登録情報(メールアドレス&パスワード)でログインいただけます

  • ニュース
  • 新着記事一覧
  • Security Online
  • DB Online
  • イベント

    【開催予定】EnterpriseZine Day 2025 Summer
    2025年6月20日(金)オンライン開催

    HR×Data Forum
    2025年5月27日(火)オンライン開催

    • 酒井真弓の『Enterprise IT Women』訪問記

      酒井真弓の『Enterprise IT Women』訪問記

    • SaaS ERP最前線──適者生存の市場を勝ち抜く企業はどこに

      SaaS ERP最前線──適者生存の市場を勝ち抜く企業はどこに

    • IT部門から“組織変革”を~気鋭のトップランナーを訪ねる~

      IT部門から“組織変革”を~気鋭のトップランナーを訪ねる~

  • ブログ

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

最新イベントはこちら!

【開催予定】EnterpriseZine Day 2025 Summer

2025年6月20日(金)オンライン開催

HR×Data Forum

2025年5月27日(火)オンライン開催

EnterpriseZine(エンタープライズジン)

EnterpriseZine編集部が最旬ITトピックの深層に迫る。ここでしか読めない、エンタープライズITの最新トピックをお届けします。

『EnterpriseZine Press』

2024年秋号(EnterpriseZine Press 2024 Autumn)特集「生成AI時代に考える“真のDX人材育成”──『スキル策定』『実践』2つの観点で紐解く」

EnterpriseZineニュース

悪意あるAIツールと手法、2024年は前年比で200%増加──KELA調査

 KELAは、「2025年版AI脅威レポート:サイバー犯罪者はいかにAI技術を兵器化しているか」を公開した。

 サイバー犯罪者は、ジェイルブレイク手法などを用いてChatGPT、Gemini、DeepSeek、Claudeなどの生成AIアプリケーションのセキュリティ制限を回避し、ユーザーの機密データにアクセスしてそれを盗み出すが、KELAは過去1年間、新しいバージョンがリリースされるたびに、サイバー犯罪コミュニティでジェイルブレイクテクニックを共有して広めているのを観察してきたという。同レポートの注目ポイントは次のとおり。

  • ジェイルブレイク手法が急速に進化:脅威アクターは、AIシステムのセキュリティ制限を回避するためのジェイルブレイク手法を継続的に改良しているという。2024年は、ジェイルブレイク手法に関するサイバー犯罪フォーラムでの議論が、前年比で52%増加したことを確認したとのことだ
  • サイバー犯罪フォーラムでのAI活用が急増:KELAのサイバー脅威インテリジェンスプラットフォームでは、悪意あるAIツールや手法に関する言及が2024年は2023年と比較して200%増加しており、AIを活用したサイバー犯罪のアンダーグラウンド市場が拡大していることが浮き彫りになったとしている
  • ダークAIツールの拡散:サイバー犯罪者は、ジェイルブレイク済みのAIモデルや、WormGPT、FraudGPTなどのサイバー犯罪向けAIツールを配布・販売しており、フィッシング、マルウェア作成、詐欺行為を自動化しているという
  • AIを活用したフィッシングキャンペーンがますます高度化:AIによって生成されたフィッシングおよびソーシャルエンジニアリング手法は効果が高まっており、ディープフェイク技術を用いて経営幹部になりすまし、従業員に不正取引を実行させるケースが増えているとのことだ
  • マルウェア開発の効率化:脅威アクターはAIツールを活用し、大量の高度かつ回避性の高いマルウェア(ランサムウェアや情報窃取型マルウェアを含む)を生成しており、セキュリティチームによる検知と対処が一層困難になっているという

【関連記事】
IPA、「JC-STAR」運用開始 セキュリティレベル「★1」の申請を受付、交付は5月上旬見込み
1日に330万回のサイバー攻撃を検知、攻撃総数は前年比154%増──サイバーセキュリティクラウド調査
「サイバーセキュリティアワード2025」の大賞はアニメ「こうしす!」が受賞

この記事は参考になりましたか?

  • Facebook
  • X
  • Pocket
  • note
関連リンク
この記事の著者

EnterpriseZine編集部(エンタープライズジン ヘンシュウブ)

「EnterpriseZine」(エンタープライズジン)は、翔泳社が運営する企業のIT活用とビジネス成長を支援するITリーダー向け専門メディアです。データテクノロジー/情報セキュリティの最新動向を中心に、企業ITに関する多様な情報をお届けしています。

※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です

この記事は参考になりましたか?

この記事をシェア

EnterpriseZine(エンタープライズジン)
https://enterprisezine.jp/news/detail/21720 2025/03/27 17:00

Job Board

AD

おすすめ

アクセスランキング

アクセスランキング

イベント

EnterpriseZine(エンタープライズジン)編集部では、情報システム担当、セキュリティ担当の方々向けに、EnterpriseZine Day、Security Online Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。

新規会員登録無料のご案内

  • ・全ての過去記事が閲覧できます
  • ・会員限定メルマガを受信できます

メールバックナンバー

アクセスランキング

アクセスランキング