夏野剛氏がKADOKAWAランサム攻撃事件の当時に言及──他人事じゃないセキュリティのあれこれを語る

解決策は「AIのためのプログラミング言語」をつくる？

夏野氏：そういった危険性に対して、どうすれば防御ができるのでしょうか。

中島氏：アプローチはいくつかあると思いますが、私が考えているのは“新しい言語をつくる”ことです。C言語やPascal、Pythonといった今までのプログラミングは、人間がプログラムを書くための言語ですよね。それをAIが覚えてどんどん書いているのが現在の状況ですが、本当に必要なのは「AIが書くためのプログラミング言語」なのではないかと。それを使ってガードレールを提供するのです。

夏野氏：非常に面白いアプローチですね。今、AIしか参加できないSNSなどは既にありますが、「AIしか参加できないオープンソース」というのが出てくるかもしれないということですか。

中島氏：たとえば、私が開発した「MulmoCast」というプロダクトがありますが、これはAIに映像を作らせることができるツールです。この仕組みを開発する際、AIに映像を作ってもらうためにプロンプトを入力するのが大きな手間になる問題を解決しようと模索しました。プロンプトを入力するのも一苦労ですし、生成された成果物が気に入らない場合は、もう一度プロンプトに戻らなければいけないからです。

　そこで、「MulmoScript」という名前のスクリプト言語をつくりました。まずはプロンプトを使って、AIに映像のための台本を書かせます。台本ベースで映像を生成することで、人間が目を通せるタイミングがワンクッション入るんです。

　そしてスクリプト言語とは結局、中間言語です。つまり、インタープリターあるいはコンパイラさえしっかりつくってあれば、AIが「何ができて、何ができないのか」を人間側で100％コントロールできます。そうすれば、思いもよらないアウトプットが生成されるとか、AIがファイルシステムの中身を盗んでしまうといった事件が起こることはありません。MulmoCastはそういう設計にしています。