IPAは従来のサイバーセキュリティ対策やIT人材育成事業に加え、新たに「ITに関する新たな潮流の把握と発信を行う」役割を担い、2018年4月より第四期中期計画をスタートさせている。
それに伴い、ITに係る新技術としてAIにフォーカスし、AIの利用状況および関連する制度・政策を調査することとした。
公開された報告書は、東京大学の松尾豊氏を委員長とした委員会において、国内外調査の結果を基に、AIに関する期待、社会実装課題の抽出を行い、社会実装推進の方向性を検討し、次のようにまとめたもの。
1. AIの社会実装推進上の主な課題
- ユーザや社会に係る課題（AIの理解、社会受容性、AIと人との協調）
- 国際課題（国際競争力、データの流通）
- 開発に係る課題（AI人材の育成、学習環境、学習データ・学習済モデルの流通）
- AIの特性に係る課題（AIシステムの検証性、AIシステムの安全性、AIの精度）
- 法制度に係る課題（AIと法制度、個人情報・プライバシー）
2. AIの社会実装推進の方向性
- AIで日本を強化する。
- 社会システムから変えていく。
- 企業や消費者の理解を促進する。
- 人とAIが協調し、ともに成長する。
- AIのリスクと安全性を考える（詳細を後述）
- AI開発のエコシステムを活性化する。
- サービスを生むデータ戦略を考える。
- AIで生じる法制度の課題を検討する。
3. AIの社会実装推進の方向性の具体例：「2-5 AIのリスクと安全性を考える」
・AIシステムのリスク分析ガイド、検証基準、安全基準などを整備し、AIを活用したシステムのリスクを評価・対策し、安全性を高める。
・第三者評価機関のAIが学習プロセスを監査する。
・予期せぬ挙動やプライバシー侵害を防ぐ仕組みを検討する。
AIリスクと安全性の検討の結果、(1) AIの安全性の向上、(2) 一定の安全性を保障する検証の仕組み、(3) 個人情報や企業機密の保護、が期待できる。また、AIの標準化、自動運転の安全性検証などの関連施策や取組みに反映されることが想定される。
