AIエージェント時代に浮上するデータの責任問題──「AIセーフティ」と「AIセキュリティ」という2つのリスクにどう対処するか

トランプ政権がAI規制を全廃：日本独自のデータガバナンス体制構築のチャンス到来

松元：日本とアメリカでAIガバナンスのアプローチに違いはありますか？

平田：大きな違いがあると思います。アメリカはバイデン大統領時代に、NISTというアメリカの標準化機関が作ったリスクマネジメントフレームワークに従って、特にビッグテックに検証を義務づける大統領令を出していました。ところが、トランプ大統領になって今年1月23日にこれがほとんど撤廃されました。

松元：ほとんどなくなったんですか？それは衝撃的ですね。

平田：そうです。先週には「今後10年間ぐらいはそういう法律を作っちゃだめ」ぐらいの勢いの話まで出てきています。アメリカは国際標準化をリードするのではなく、もうとにかくAI開発に走るという方針に転換しました。

松元：これって、データ戦略的に見ると、アメリカが規制による差別化を放棄して、純粋な技術競争に舵を切ったということですよね。一方で、これは日本にとってはチャンスでもある。独自のデータガバナンス体制を構築することで、差別化を図れる歴史的機会かもしれません。

平田：そうですね。対して日本は、マルチステークホルダーできちんとAIガバナンスをやっていこうという話が盛り上がっているように思います。政府、民間、アカデミー、事業者が一緒になってやるんだと。Ciscoが参加するAIガバナンス協会でも、民間側からベストプラクティスを作っていく議論をしています。日本では、イノベーションを進めるためのAIガバナンスを掲げており、アメリカよりも上手く進められているかもしれません。

松元：企業と政府の責任分担はどうあるべきでしょうか？

平田：領域を横断した全体のリーダーになっていただきたいというのが私たちの思いです。政府は調達ガイドライン作成やAI戦略会議室など、司令塔としての役割を果たそうとしています。一方で、政府だけでは民間事業者が何を求めているかの手触りが分からない。事業者側からどんどん声を上げて、ベストプラクティスを政府に共有していく役割分担が必要だと思います。

「データとは何か」が根本的に変化：メタデータもナッジもデータになる時代

松元：AI時代でデータの役割はどう変わっていくでしょうか？

平田：データの役割は根本的に変わっていますね。

松元：そうですね。私たちが見ている限り、データの定義自体が拡張していると感じます。従来はシステムが読むためのものがデータでした。そこからデータサイエンティストが分析するものへと範囲が拡張し、今度はAIエージェントが動くためにデータが使われていく。メタデータもナッジもデータと呼ばれるようになって、何がデータかという対象範囲がかなり変わってきています。

平田：まさにその通りです。適用範囲も、今まで意思決定のために使っていたものが、業務の中で使っていく、AIエージェントが動くために使われていくということで、本当に指数関数で収まらないぐらいに広がっています。

松元：使うフェーズも変わっていますよね。従来は意思決定支援のためにデータを使っていたのが、今度は業務実行のリアルタイムプロセスの中でAIがデータを活用していく。データの鮮度要件も、アクセスパターンも、全く違う世界になってきていますね。

　最後に、データに関わる人たちへのメッセージをお願いします。

平田：AIを安心安全に活用推進するためには、AIガバナンスやAIセキュリティが重要になります。攻めのための守りという立場から、引き続き日本全体のAI活用を進めるお手伝いをしていきたいと思います。

松元：データが大事になってくるということなので、2年後、3年後のことと思われている方もいるかもしれませんが、必ずそこに戻ってきます。データは一朝一夕で検討し始めてからできるようになるまでが非常に長い領域で、嘘をつけない領域なんです。技術的負債と同じで、後から取り返すのが非常に困難。だからこそ、今からどんどん準備していきたいところですね。

平田：まさにその通りだと思います。ありがとうございました。

（編集部）平田氏、松元氏の以下の記事もご覧ください。