今こそ知るべき、生成AIアプリ特有のセキュリティ対策アプローチ──数百万人の調査から判明した脅威とは

生成AIアプリの活用に“最低限”必要なセキュリティ対策

　これまで紹介した一通りの機能を、田中氏はデモを用いて説明。ルール違反でブロックするケース、注意喚起を行うケース、利用前に理由を記入してもらうケースなどが披露された。投稿内容については、「こんにちは」だけではアラートは表示されないが、禁止用語が含まれると送信がブロックされる様子が示された。

　管理画面に移ると、これまでデモで行った一連の操作が、ユーザーの利用状況として克明に記録されている様子が示された。そこには、ログインだけでなく、生成AIアプリに投稿した内容、生成AIアプリ利用の理由として記入した内容、違反と検知されてブロックされたことまで記録されていた。

　違反などは、インシデントのログとして記録される。ソースコードのアップロードか、あるいは禁止用語でブロックされたのかなど、インシデントとみなされた要因もわかる。また、ユーザーごとのスコアで見れば、減点された履歴も確認できる。たとえば、あるユーザーのスコアが顕著に低くなっていたとしよう。理由を確認してみると、ログインに何度も失敗していた。ここまでわかれば、管理者は該当者に事情を聞くなどして対応することができる。

　最後に、田中氏は要点を次のようにまとめた。

　「生成AIアプリをビジネスでうまく活用するために、最低限必要なセキュリティ対策。それは、①生成AIアプリの客観的評価データベースを活用すること、②生成AIアプリの使用状況を可視化すること、③生成AIアプリ利用に関するトレーニングや柔軟なコントロールを検討することです。いきなり操作をコントロールするのが難しければ、まずは客観的評価データベースや使用状況の可視化から始めてみてはいかがでしょうか」（田中氏）