生成AIのリスクを避ける“プロトタイプ開発”、実施におけるポイントとは
講演の終盤、「生成AIが本当に役に立つか、コストは適正か、導入過程に問題はないかの確認のために、プロトタイプを作って試すべきだ」と強調する大杉氏。詳細なシステムを作り込む前に、主要な処理が実現可能かどうかを検証すべきだという。たとえば企画段階では、汎用的な生成AIにプロンプトを入力することで、実現したい処理が可能かどうかを検討できる。これにより、実現可能性の確認や品質要件の明確化が進む。RAGを導入する場合も、データベースを作り込む前に、プロンプトに想定される結果を登録することで、有用性の検証が可能になるとのことだ。
現在、主要なクラウドサービスでは、これらの処理をノーコードで試せる環境が整っている。企画段階でこれらを活用すれば、本格的に作り込む前に素早く検証することが可能だ。なお、プロトタイプ開発について、ガイドブックでは「2.3 技術的実現可能性の検討によるリスク軽減」で詳しく説明されている。
「プロトタイプ開発を通じて、事前にどんなものが作れるかを検討することで、様々なリスクを軽減できます。目標が高すぎる、基盤モデルにない知識を求めてしまう、開発時や運用時のコストが高すぎる、法的な問題、業務を代替することで本来の意義が失われるケース、そしてベンダーロックインといった、ここまで紹介してきたリスクに対して有効です」（大杉氏）
また、大杉氏は、本ガイドブックに記載のない内容として「著作権」「画像や動画の生成に関するリスク」を挙げている。前者については『AIと著作権に関するチェックリスト＆ガイダンス』（2024年7月文化庁）を、後者については『コンテンツ制作のための生成AI利活用ガイドブック』（2024年7月経済産業省）をあわせて参照するよう推奨した。
最後に同氏は、今後の展望として「α版のガイドラインを正式なものにしたい」と明かす。
「生成AIの検索改善やRAGの品質評価に対するニーズは多く、本文にすべて盛り込むとかなりの分量になるため、別途資料として分けることを考えています。また、利用者がもっと実践的に使えるようにチェックリストを追記し、行政で正式に参照される形にしたいです。加えて、プロトタイプ開発を実現するためのベストプラクティスもまとめる予定です」（大杉氏）
