AI時代にもなぜ炎上プロジェクトが生まれるのか　IT部門が見直すべき「3つの統制」

AIを導入しても「炎上が止まらない」理由

　AIは、要件整理から実装、テストまでを自動化し、開発スピードを劇的に高めました。ただし、実装が簡単になったわけではありません。AIならコードや設計書、テストケースまで一瞬で作ってくれます。しかし、それを書いたのは人ではありません。だからこそ、レビューや保守が難しい。結局は、人が「自分が書いていないもの」の責任を引き受けることになるのです。

　自社にとって何を作るべきか、どこまで投資するか、誰が責任を持つのか。これらをAIは決めてくれません。むしろ、これは要件定義そのものです。この部分は、これからも人の仕事です。

　私が怖いと思うのは、この部分なのです。AIは、要件定義書を数分で作りますが、そこには「これで十分だろう」とレビューを省略しようとする誘惑が生まれます。そして、実際の現場では、この誘惑に負けてしまうことがあるのです。AIで速く作れるようになったからこそ、レビューと検証の重要性は以前より高まっています。

　また、AI時代では、IT部門が統制すべき対象──管理外で生成AIを利用するようなシャドーAI、ベンダーがAIで生成した成果物、AI利用にともなう運用コストや責任範囲──が一気に増えました。

　筆者は、AIは方向性を増幅するための技術だと考えています。要件が正しければ、何倍もの速さで価値を生みます。一方、方向を間違えれば、その間違いも何倍もの速さで広がってしまいます。だからこそ、AI時代ほど「何を作るか」を決める要件定義と、それを支える統制が重要になるのです。