GPT-5時代に『次の一手』を踏めない企業の課題とは── SalesforceのAgentforce戦略が示すスケール運用の条件

データベース全削除事故から学ぶ、Agentの真の課題

　AIは急速に進化し、個人レベルの可能性を飛躍的に拡張しました。情報収集、学習、文章・画像制作など、多くの作業を高速化でき、MCP等を使えば、複数ツールを連携しタスクを自動化できます。1人で多くの作業をこなすことが可能になりました。

　しかし、Agentを活用し、多くの作業ステップやツールを束ねて仕事をしようとすると課題が噴出します。

• 開発系Agentに任せた作業でデータベースを全削除してしまった
• MCP経由で誤って顧客全員にメールを送信してしまった

　こうした事例は半ば笑い話のようですが、本質は深刻です。

　原因は、Agentの力量や権限範囲を理解せずに過度に権限委譲してしまったこと、あるいはツールごとの特性や分担、必要な制約やナレッジを与えずにMCPで接続してしまったことです。

　これは人間が人間に仕事を任せる過程でも起こる問題です。権限や責任の設計がないまま、業務やツールを委譲すればトラブルは必然的に発生します。AIも例外ではありません。

責任を設計せよ（いにしえのシステム課題に向き合う）

　私が最近強く感じているのは、AIを企業活動に組み込んで躍動させるのは実装リテラシーではなく「責任」の設計ではないかということです。

　多くの生成AI活用で便利に使えているケースというのは、実は「個人が、自分で完結・責任を取れる範囲」に限定されていると考えています。議事録作成、問い合わせ対応、プロト開発など、外部や他部門に影響しない領域では成果が出やすい。しかし、適用範囲を広げ、複数チームや全社規模の業務に組み込もうとすると、責任の所在やリスク管理の欠如が大きな障害になります。

　従来より、システムの情報セキュリティの文脈では「最小権限の原則（PoLP）」という概念があります。しかし、本当の意味で権限を最小にして管理することは難しく、いかにこれをエンタープライズシステムにおいて実務的に運用するかというのは、いまだに解決されない問題の1つです。

　しかも、AIは抽象的な指示に対して、「多様で・膨大なタスクを・高速に」実行できてしまうほどに進化しました。今もなお成長し続ける新たなスーパープレイヤーのポテンシャルを発揮させることの難しさはここにあるのではないか？と考えています。

　AIは人間と違い、失敗しても責任を負いません。要求に制約を盛り込まなければ、何をしたか、なぜするかが予測しきれず、さらに監視もされていない状態で適用すれば、事故が起きた際に責任だけが人間に押し付けられます。ミスをした部下のように、顧客のもとへ一緒に頭を下げにいってくれることはありません。結果として、企業におけるAIの利用範囲は個人レベルの作業効率化ケースや疎結合な業務処理に限定されるという溝で停滞していくのではないでしょうか。