「生成AI」時代の到来──進化する技術がもたらす新たな脅威
講演冒頭、吉野氏はAIの歴史について、これまでに3度の“AIブーム”が訪れたことを振り返る。第1次AIブームは、1950年代から1960年代にかけて興り、コンピュータによる推論・探索によって、特定の問題に対しての解を提示できるようになった。1980年代から1990年代にかけての第2次AIブームでは「エキスパートシステム」と呼ばれる、専門家のように推論を行うシステムも開発され、実際に商用利用されていく。そして、2000年代から現在にかけての第3次AIブームでは、ビッグデータを活用した機械学習（ML）が実用化。2022年11月にChatGPTが発表されると、「生成AI」が急速に普及している状況だ。
現在、ブームといっても過言ではない生成AIは、テキストや画像、動画などを自動生成する技術。テキスト生成AIは自然な文章を作り出し、画像生成AIは新たな画像の作成や加工を行い、動画生成AIではコンテンツを自動で生成・編集できる。しかし、その便利さの裏で“悪用事例”も増えていると吉野氏は指摘。生成AIを悪用することで、容易に既存のマルウェアを改変できたり、見分けがつかないようなフィッシングメールの文面を生成したりと、サイバー攻撃の巧妙化につながることが懸念されている。
[画像クリックで拡大]
実際、2024年5月には、生成AIを使ってランサムウェアに類似するマルウェアを仕込んだソフトウェアを作成した人物が逮捕された。さらに、生成AIを悪用するような偽装アプリケーションを開発したり、サイバー攻撃の際にはAIに脆弱性を突くようなコードを生成させたりと、これまでには見られない攻撃手法が多発する可能性も指摘されている。
