対策を急げ！ラックが示す、「現場で本当に運用可能」かつ実効性ある生成AIガイドライン策定のポイント

「生成AI」導入だけ先行している企業、リスクを恐れ過ぎて躊躇している企業

　リスクアセスメントや規程・ガイドライン策定を通じて、多くの企業のセキュリティ強化を支援してきた藤井氏。特に最近は、生成AI関連の相談や支援依頼が増えているという。本講演で同氏は、様々な支援の現場で感じた課題意識を共有した。

　総務省『令和7年版 情報通信白書』によれば、世界の生成AI市場の規模は2022年には121億ドルだったが、2030年には3,561億ドルへ“約30倍”に成長すると予測されている。ここまで来ると、もはや「生成AIを利用しない＝競争力を失う」と言っても過言ではない。

　ところが、各国における生成AI活用方針の策定状況を比べると、日本は「方針を明確に定めていない・わからない」が46％に達し、米国（9.4％）や中国（2.9％）と際立った差がある。このままではビジネスで勝てないどころか、ガバナンスの不備やリテラシーの不足も蔓延してしまうのではないか。

　しかし、この調査結果に対し藤井氏は違った方向から意見を述べた。「見方を変えれば、今のうちに方針を整備できた企業が競争の優位性を確立できるとも言える」と前向きに指摘したのである。

　生成AIの進化や普及のスピードは凄まじいゆえに、企業は大きく以下3つの課題を抱えているという。

　リスク対策やガバナンスを蔑ろにすることはこの上なく危険だが、リスクを理由に利用を避けていても競争力を失ってしまう。よって、「リスクを理解した上で上手に付き合っていく姿勢が必要だ」という前提をまずは認識する必要があるだろう。

クラウドや従来型セキュリティの定石で考えるべきではない

　最近、藤井氏は「我が社では、情報セキュリティガイドラインやクラウドサービス利用ガイドラインを策定済みです。それで生成AIもカバーできますか？」という相談を受けることが多いという。これに対し同氏は、クラウドと生成AIではリスク対策の勝手が異なる点を指摘した。

　クラウドサービスの利用やクラウド環境への移行は、情報を「どこで扱うか」という“空間”が変化するものだ。よって、CIA（機密性・完全性・可用性）強化と責任範囲の明確化が対策の核だった。これに対し、生成AIを利活用するとなると、情報を「どのように創り出すか」という創造プロセスそのものに変化が起こる。

　つまり生成AIがアウトプットする内容は、確率的でブラックボックスであり、従来のCIA観点による情報セキュリティ対策では不十分だ。従来のセキュリティの定石とは異なる、生成AI特有のリスクを考慮した評価と対策が不可欠となる。

　生成AI特有のリスクは、大きく4つの分類に整理できる。1つ目は「情報漏えい」だ。まず入力フェーズでは、ユーザーが機密情報をプロンプトの中で入力する。このとき、うっかりAIモデルに情報が追加学習されてしまうと、削除はほぼ不可能となる。そして出力フェーズでは、悪意あるプロンプトでAIを不正操作し非公開情報を引き出す「プロンプトインジェクション」が脅威となる。

　2つ目のリスクは「他者の権利侵害」だ。著作権・商標権・プライバシーなど、多くの法的リスクが顕在化しやすく、生成したものが偶然それらを侵害していた場合でも「知らなかった」は通用しない。

　3つ目は「ハルシネーションとバイアス」。誤情報や差別的な内容をアウトプットしてしまう可能性は、完全には排除できない。藤井氏は、「発生することを前提とした上で、顕在化リスクを低減するためのルール、チェック機能を整備する必要がある」と述べる。

　その他のリスクとして4つ目に紹介されたのは、シャドーAIや生成AIシステムを標的とした攻撃、生成AIの悪用だ。まず、社内で承認されていないAIツールを勝手に業務利用する行為は、企業のIT統制の範囲外であり、情報漏えいに直結しかねない。次に、プロンプトインジェクションや不正な入力によるDoS攻撃、意図的なデータ汚染などが、既に攻撃の手法として浸透してきている。さらには、生成AIによるマルウェアや詐欺コンテンツの自動生成など、攻撃は日に日に規模・スピード・巧妙性を増してきている。

ガイドライン策定の4ステップ、見落としがちな軸

　社内ガイドラインの存在は、ガバナンス整備の要となる。前述のようなリスクを踏まえることはもちろん、生成AIによるメリット（コスト削減、新規事業創出など）とデメリット（リスク、対策コストなど）のバランスが、企業の事情（業種、組織規模、AI利活用の目的など）ごとに異なる点にも注意しよう。ガイドライン策定の際、そのバランスをとることが重要となる。

　ガイドラインを定めることで、「施策立案 → 実践運用 → 監視チェック → 改善対策」のPDCAが機能し、それをもとにした教育活動も進めやすくなる。すると、ゆくゆくは社員のAIリテラシー向上にもつながる。

　藤井氏が提示した、ガイドラインに求められる要件は次の5点だ。

　これらを踏まえて、いよいよ実践フェーズに入る。ガイドラインの策定プロセスは、大きく「①利用状況の把握、②リスク評価、③ガイドライン案策定、④関連部門との調整」から成る4つのステップで進めていくのが望ましいとのこと。社内での生成AIの利用状況は、CASBや、社員がどのクラウド／SaaSにアクセスしているか監視するツールのログなども活用して把握しよう。最後の部門調整は、現場で運用可能かつ効力を発揮するガイドラインの仕上げに欠かせない。

　策定の際、ISO/IEC 42001やNIST AI 100-1 RMFなどといった参照できるフレームワークは複数あるが、すべての要件を盛り込むのは困難だ。過剰な制約（ルール）を課してしまうと、「遵守するのが面倒だから隠れて使っちゃおう」という従業員の心理を醸成し、シャドーAIを生み出してしまうリスクがある。つい様々なリスクや可能性に目がいきがちだが、大切なのは「自社の『活用』と『リスク』のバランスを見極め、着実に運用できるガイドラインを目指すこと」だ。その点を忘れないようにしよう。

　とはいえ、そう簡単に進められるプロセスではないことも事実。そんな企業に対しては、ラックが提供する「生成AI利用・開発ガイドライン策定支援サービス」を利用するのも手だ。同社のコンサルタントが、顧客の事業内容、既存規程、生成AIのユースケースなどを深く理解した上で、リスクや法規制を考慮した実効性あるガイドラインをともに策定してくれる。運用の定着を支援するチェックシートや、法規制・技術動向の変化に応じた定期的な見直し支援もオプションで提供している。

2026年度は要注目、AIガバナンスに変化をもたらす3つのトレンド

　藤井氏は最後に、生成AIのガバナンスに影響を及ぼす今後の注目トレンド3つを説明した。

　第一に、「AIエージェントへの対応」。2026年度中に本格的な普及が見込まれるAIエージェントだが、NHI（Non Human Identity＝人間でないID）の権限管理、データへのアクセス制御、加えてエージェントが収集・作成した情報の利用範囲を明確できなければ、機密情報が意図せず社内外に広がってしまう恐れがある。データの質がAIの出力を左右するという原則が、“AIエージェント時代”により一層重みを持つからこそ、「AIが読み込めるデータ」を整備するデータガバナンスが急務となる。

　第二のトレンドは、「AIMS認証とAI監査の台頭」だ。AIマネジメントシステムの国際規格（ISO/IEC 42001:2023）を受け、日本でも「JIS Q 42001:2025」が発行された。これによりISMSと同様に、対外的な信頼確保の観点からAIMS認証取得の動きが広がると藤井氏は予測する。ISACAでも、CISAの高度AI専門資格「AAIA（Advanced in AI Audit）」が2025年から開始されており、AI特有の監査スキルを持つ人材への需要が高まっていることは明白である。

　そして第三は、国内における「個人情報保護法の見直し」だ。検討中の改正案では、統計情報やAI開発を目的とした個人データ活用における“本人同意の緩和”が記されている。もちろん、改正案はまだ未確定の要素も多く、今後の審議で変わる可能性もあるが、たとえば想定されるケースとして、ある事業会社が顧客データをベンダーに渡し、そのデータを学習させて自社に特化したAIモデルを作ろうとする場合があるだろう。そうしたことが可能な法体系となった場合に備え、今のうちから適切なガバナンス体制を整えておくことが重要だ。

　将来の展望までを述べた後に、藤井氏は企業が最初に着手すべきこととして、「まずは自社の生成AI利用の状況を把握するところから始めよう」と再び呼びかけた。そして、講演の内容を次のように総括する。

　「シャドーAIがあれば当然ガバナンスにも穴があき、致命的なセキュリティホールとなることは大前提として押さえておきましょう。そしてガイドラインですが、生成AIの利用状況や方針は企業ごとに異なるため、策定の際は公的ガイドラインやフレームワークを参考としつつも、自社のビジネス・業務・リスクを考慮して、現実的な施策・運用に落とし込むことが重要です」（藤井氏）