AISIが活動報告、モデル評価からAIエージェントの安全性へ──村上明子所長が語る次の課題

AISIとは、規制ではなく研究・評価を担う公的機関

　AISI（Japan AI Safety Institute）は、AIの安全性に関する基準や評価手法を整える日本の公的機関だ。情報処理推進機構（IPA）内に置かれ、経済産業省、デジタル庁、総務省、文部科学省、内閣府が関わる。規制や処分を担う当局ではなく、研究・評価を担う機関と位置付けられている。

　2024年2月の設立から2年半、当初は情報収集とガイドラインづくりが中心だったが、有識者の提言を受け、今年4月に体制とミッションを見直した。所員は4月の31人から9月には61人へ増えた。掲げるパーパスは「日本を世界で最もAIを開発・活用できる国にする」ことで、ベンチマークの作成、モデルやシステムの自前評価、安全関連情報の収集・提供、国際協調の4つを活動の柱とする。

　ミッションは3つある。信頼できる優れたAI製品・サービスの普及を促すこと、国内のAI関連分野の競争力強化を支えること、そして国民の生命や財産を脅かす事象の抑止に貢献することだ。国際面では、米国・英国・日本が先行して立ち上げたAISIの国際ネットワークが現在10ヵ国に広がり、各国と情報を交換している。

事業実証WG上期報告会：内閣府とAISIが求めた「先回り」の実証

　2026年10月7日、AISIが運営する事業実証ワーキンググループ（WG）の2026年度上期の活動を、関係者に共有する報告会が開かれた。事業実証WGは、AIを使う現場と組んで、分野別の評価観点やガイドを詰める場だ。分野ごとにサブワーキンググループ（SWG）が置かれている。

　冒頭、内閣府人工知能政策推進室（以下、AI室）の齊藤大地企画官（科学技術・イノベーション推進事務局）が、この間の動きを振り返った。サイバー攻撃への影響が懸念される高性能モデル（フロンティアモデル）が登場し、国会では「英国のAISIは高性能モデルの評価ができているのに、日本のAISIはできないのか」との声が上がったという。さらに、フロンティアモデルがAIモデル共有プラットフォーム「Hugging Face」に侵入したことを機に、オープンソースへの対応も問われた。

　こうした中で、AISIの活動をめぐる議論は「規制をどうするのか」というガバナンス・リスク側に傾いた。ただ、齊藤氏は「AIを“使う”と“作る”という基本方針は変わっていない」と強調した。そのうえで、現場の課題に個別に応えることが日本の強みになるとして、WGの成果の発信も呼びかけた。

　AISI所長の村上明子氏は、AISIが事業実証に求める役割を「先んじてプロアクティブに動く」ことだと説明した。起きたトラブルを後から追っても「絶対に間に合いません」ためだ。業種ごとのリスクに加え、データ品質や適合性評価のような共通テーマも先回りして議論する。結果は監督官庁と協力して進め、必要ならレギュレーションへの反映もAISIが責任を持つという。

　平本健二副所長は、AISI全体の中でのWGの位置付けを整理した。事務局がモデル評価や標準化など業界共通の基盤を担い、WGが分野別のガイドや課題を詰める。「AIと業界が組み、政府の各省庁も一緒にやる実践的な取り組みは日本らしい」と述べ、世界への発信を促した。

　続いてAISIの宮﨑敏氏がWGの全体像を示し、各SWGの代表が、以下の上期の活動を報告した。

• ヘルスケアSWG：4月公開の「評価観点ガイド」について医療機関等の意見を集めて改訂を推進。
• ロボティクスSWG：公開した評価観点ガイドを基に、AIロボットの運行設計領域（ODD）を検討する実証実験を進行。
• データ品質SWG：策定したチェックリストの実業務適用・課題検証に加え、メタデータ品質の検証を実施。
• 適合性評価SWG：国際標準化（SC42等）と連携し、人とAIの協働を含む評価制度の枠組み構築を検討。
• 教育SWG（今年度新設）：初等中等教育における生成AI利活用リスクの整理と評価観点・ユースケースの取りまとめ。
• ジオAI SWG（今年度新設）：地理空間情報の共通フレームワークガイドラインや数値地形図の公共測量マニュアル公開に向けて検討。

　これらに加えて、金融SWGも設置を計画中だという。

　特別講演枠では、Anthropic Japanの吉田弘毅氏が自律型AIエージェントを安全に動かすための設計と評価を、OpenAI Japanの大久保和也氏が同社の開発方針と安全性への取り組みを語った。最後に関根聡副所長が閉会のあいさつに立ち、AISIが今後情報発信を強化していくことを述べ、協力を呼びかけた。

　報告会の会場では、村上明子所長が取材に応じた。自前のモデル評価と業種別の実証を、AISIはどうつなぐのか。その内容を紹介する。