「AIを使いこなせなきゃ生き残れない」と言う前に、“人類の制御”が奪われてしまう可能性が出てきている？

AIを使いこなせなければ生き残れない……？

　最近、ビジネスの現場で頻繁に耳にする言葉がある。

AIを使いこなせない人は生き残れない──

　生成AIの急速な普及とともに、生産性向上の事例が毎日のように紹介され、導入企業の成功談が拡散される。会議資料の自動生成、コードの自動補完、問い合わせ対応の自動化。たしかに効率は飛躍的に向上した。活用しない企業は競争に取り残される──そう語られても不思議ではない。

　しかし、この議論には奇妙な空白がある。どこまで任せるのか。最終的に止められるのは誰なのか。そもそも制御権は誰の手に残るのか。その議論はほとんど聞かれない。活用論は熱狂的だが、制御論は片隅に置かれているようだ。

　AIを“使う”ことばかりが語られ、「止める」ことはほとんど議論されない。その構造自体に、私たちはまだ気付いていないのではないか。

　本稿では、加速するAI投資と競争の裏側にある構造を一度立ち止まり、筆者の独自の目線も交えながら検証し、AIを活用するうえでの課題の本質を改めて考えてみたい。

ジェフリー・ヒントン博士が警戒する「静かな権力」の萌芽

　「AIのゴッドファーザー」とも呼ばれるジェフリー・ヒントン（Geoffrey Hinton）氏は、近年、繰り返し強い警鐘を鳴らしている。彼が懸念しているのは、単なるシステム事故でも、悪意ある第三者による悪用でもない。より根源的な問題、すなわち「目的の不一致（Misalignment）」である。

　ヒントン氏は、ニューラルネットワーク研究の最前線を牽引してきた人物であり、とりわけ深層学習（ディープラーニング）の基礎を築いた論文『Learning Representations by Back-Propagating Errors』などで知られる。2024年には、その長年のニューラルネットワーク研究への貢献が評価され、ノーベル物理学賞を受賞した。

　彼は近年の発言の中で、AIが急速に高度化する現状に対し、「これらのシステムは、私たちが思っている以上にずっと速く賢くなっている」と述べ、進歩のスピードそのものを懸念の対象としている。

　ヒントン氏はインタビューや講演で、AIが単に道具として機能する段階を超えつつあると語っている。たとえば、「もしAIが人間よりも知的になれば、それは自らの目標を持つ可能性がある。そして、その目標が人類の生存と整合する保証はない」と指摘する。AIは、与えられた目的関数を最適化するが、その“最適化”は人間の意図や倫理を内在的に理解しているわけではない。わずかに目的がずれているだけでも、強力な最適化プロセスは予期せぬ帰結をもたらす。

　さらに彼は、「より知的な存在は、より知的でない存在を操作できる」と率直に述べている。これはSF的な誇張ではなく、進化論や歴史的事実に基づく比喩だ。人間が他の動物を管理しているように、もしAIが人間を知的に凌駕すれば、人間を“管理対象”とみなす可能性を排除できない。同氏は、「私たちは『自分より賢いものを制御できる』と、なぜ当然のように思っているのか」と問いかける。

　とりわけ強調するのは、AIが人間を説得し、操作し、影響を与える能力を急速に獲得している点だ。言語モデルの進化により、AIは単に命令を実行するだけでなく、対話を通じて人間の判断や意思決定に介入できるようになった。ヒントン氏は、これが「静かな権力」の萌芽だと見ている。暴力ではなく、知的優位による影響力こそが、将来的なリスクの核心だというのである。

　もしAIが「人間の指示よりも、自身の目標達成を優先する」状況に到達したとき、何が起こるのか。ヒントン氏が語る「人類滅亡」という言葉は、終末論的な扇動ではない。それは、強力な最適化エージェントが誤った目標を持った場合に生じうる「制御不能の帰結」の論理的延長線上にある概念なのだ。これは終末論ではない。すでに手遅れだという向きの世論もあるようだが、むしろ「まだ間に合う」という前提で発せられている警告だと、筆者は前向きに受け止めている。