夏野剛氏がKADOKAWAランサム攻撃事件の当時に言及──他人事じゃないセキュリティのあれこれを語る

OpenClawやClaude Codeに熱狂する人々、蔑ろにされるセキュリティ

夏野剛氏（KADOKAWA）：中島さん、よろしくお願いします。本日はサイバーセキュリティについて、中島さんはテクノロジーの視点から、そして私は経営者の視点から議論ができればと思います。私自身、2年近く前に非常に厳しい体験をしたわけですが。

中島聡氏（シンギュラリティ・ソサエティ）：よろしくお願いします。

夏野氏：それではさっそくですが、まずは中島さんから、生成AI時代のサイバーセキュリティについて気になっていることをお話しいただけますか。

中島氏：私は特にセキュリティの専門家というわけではないのですが、最近ではエンジニアやAIの界隈で流行っている「OpenClaw」を取り巻く動向に注目しています。

　私を含めセキュリティに敏感な人は、OpenClawについてはリスクを恐れて入れていないか、ガチガチのサンドボックス環境で動かしているかと思います。しかし、セキュリティリスクをよく分かっていない人たちは、「なんか面白いことができる、すごいことができる」といった軽い気持ちで使い始めていますよね。いつか事故が起こるんじゃないかなと思っています。

夏野氏：AIそのもののリスクもそうですし、サイバー攻撃の手段として生成AIを使う動きも既にありますよね。

中島氏：セキュリティホールを特定するために何百、何千と試行するような作業には、24時間自動で働いてくれる生成AIはぴったりですね。

夏野氏：あとはフィッシングのパターンも非常に多様化していて、私の会社（KADOKAWA）でも従業員のところに「会計データを送ってほしい」みたいなメールが届くんですけど、そうしたメールも生成AIで何万パターンと精度高く作れるようになると、引っかかる人も増えてくるでしょうね。

中島氏：そうですね。そのパターンを作るコストがものすごく安くなったので、総じて今までは手間がかかって不可能だったことが可能になっていると。要は、A/BテストみたいなものがA、B、C、D、E……ともう無限にできる状態になっているので、攻撃者からすれば1,000種類作ってそのうち1つでも誰かが引っかかればそれで十分なんですよね。

夏野氏：こうなってしまうと、我々としてはもうテクノロジーだけで防衛することは“ほぼ不可能”になっているという理解でよろしいですか。

中島氏：そうですね。それから新たに出てきているリスクとして、「Claude Code」の例が分かりやすいです。Claude Codeのアプリケーション部分というのは、実はAIに対して“ほぼ何でもできる状態”で提供されているんですよね。「ファイルシステムへのアクセスはユーザーの許可をとりなさい」とか、「UNIXのコマンドを走らせるときはユーザーの許可をとりなさい」といったものはプロンプトでコントロールしているだけですので、プロンプトインジェクションさえできれば何でもやり放題になってしまいます。そんなAIが世界中の開発者のマシンに入っている状態です。

夏野氏：Claude Codeはうちのエンジニアもたくさん使っていますが、最大のメリットはやはりデバッグが必要ない点ですね。ただし、デバッグしないということは「人の目が入らない」という意味でもありますから、そこに何かを仕込まれたら一巻の終わりかもしれません。

中島氏：APIキーがかなり盗まれているという話は既に聞いております。