AI開発したアプリが“使えない”……根本にあるセキュリティ／ガバナンス問題を解消する「一体設計」手法

AIを組み込んだ開発モデルで工数が半減　北米最大級企業の変革

　続いて佐藤氏は、北米最大級の建材流通企業SRS Distributionの事例を紹介。同社は、OutSystemsの開発支援とAI関連ツールを採り入れた開発モデルへ移行している。

　変化は明確だった。従来は1プロジェクトあたり開発者3名にテックリード、BA、QAを加えた6名体制。それが1開発者＋共有テックリードの3名体制となり、6名分の成果を出せるようになった。2週間を要していたスプリント0の設計期間は、毎日のプロトタイピングスパイクとAI支援による即日検証へ。複雑度次第で1〜3ヵ月かかっていた開発期間は、4〜6週間の定常デリバリーエンジンへと短縮された。

　続いて、業界別のユースケースも見ていこう。たとえば金融業界では、Guardrailsの機能で全取引のPIIを自動マスクし、Evaluationsの機能で与信審査や不正検知の判定精度を継続監視できる。医療業界では、患者情報の流出をGuardrailsが事前に防ぎ、製造業では設備予知保全や品質検査のシステム変更にEvaluationsで回帰テストを走らせることが可能だ。

　では、これらの変革を実現するために、企業は何から着手すべきか。佐藤氏は「一足飛びに完全なガバナンスや安全性を担保しようとすると難しい」とし、段階的なロードマップを示しながら説明した。

　具体的には、1ヵ月でAIエージェントの棚卸しと利用実態の可視化から始め、Guardrailsをまず開発ステージで有効化する。3ヵ月以内には本番環境へGuardrailsをブロックモードで完全適用し、評価を継続的インテグレーション／継続的デリバリー（CI/CD）に組み込んで自動化する。そして、6ヵ月以内に全プロジェクトへ展開し、AIガバナンスKPIのモニタリングへ進むといった具合だ。

　まとめとして佐藤氏が挙げたポイントは4点。1点目が、ガードレールを後付けから組み込み式にすること。2点目が、評価を標準工程にすること。「感覚に頼ってしまうと、どうしても品質に対する取り組みが甘くなってしまう」と同氏は付け加える。再現性のあるテストデータと自動採点をCI/CDに組み込めば、客観的・定量的な品質保証が可能になるという。

　3点目が、プラットフォームによるガバナンスの民主化だ。「個々人のリテラシーに依存するのではなく、ガバナンスとしてプラットフォームを作ることで、AIの品質を担保していく」という考え方を示した。4点目は、開発体制のAIネイティブな再設計。人の配置を最適化し、柔軟で効率のよいチームを組めるかが競争優位を左右する。

　「AI時代の競争優位は、速さではなく、安全に速く動ける基盤をもつことにあります。AIは非常にパワフルで、開発そのものにもスピードを与えてくれるものですが、優位性を保つうえでは、速さを生かすために『どのように安全性を担保するのか』にこだわることが重要です」（佐藤氏）