人工知能とのつきあいかた
岡田 一般社会や会社の中っていま能力主義とかがあって、自己責任とか、それでみんな孤立してしまって精神的におかしくなって、不眠症だとかになってしまう。先ほど紹介した北海道の「べてるの家」に入るとお互いの弱さを認め合った中で、それで、関係性を取り戻すというか、本来の状態を取り戻す。そういう場を作っていますね。そこも、会社経営のことをやっていて、もう「さぼってもいい」とかいろいろお互い寛容な関係のなかで関係をだんだんつくり上げて、また社会に戻るという施設で、そのときにキーワードになったのがお互いの「弱さの情報開示」というものでした。
丸山 やっぱりそこで完璧を求めていた自分に対してのね、それがやっぱり障害になってしまってというかね。たしかに、弱さを認めるというか、当たり前と思うけどね。できてないのが。「できてる」と言っているほどあやしいですよね。「できてないでしょ？」「大丈夫じゃないよ、ほんとはね」ってね。
岡田 いま人工知能のシステムなんかもけっこう強がっているんですけど、でも、内容は大したことはないわけですよね。それで、じゃぁどう関わりをつくるかなんですよね。「脅威」「脅威」と言っているけど、本当はそんなことないはずなんですよね。うまくこう、お互いの欠点を開示していけばですね。
丸山 苦手な分野とか、得意じゃない分野というのをお互いに開示して、協力を引き出すということ。その引き出し方も「オレ弱いんだけどちょっと手伝ってよ」ではなくて、何かうまくやり方があるのでしょうね。協力をお互いに引き出すということで、社会全体を強くする。というか、社会全体を強くするためにそういう仕組をやっていかないといけない。
岡田 デザインしていく。
丸山 デザインしていかないといけない。それは重要ですね。システムを強くするという意味で言うと、それはサイバーセキュリティでもなんでも同じです。形としては一緒で、テーマが違うだけ。テーマが「サイバーセキュリティ」なのか、「社会」なのか、「国」関係なのかは別として、構造としては一緒なので、同じロジックでできますよ。弱さの開示というのは。
岡田 さっき少し話していたのは、いま自動運転の車っていろいろ各社競いあってつくっているんですよね。自動運転の車って意外と強がりを言っているわけですね。「オレひとりで運転できちゃうよ」と。だけど、実際は非常に信頼性の低いシステムだったりするので、自信満々に運転してくれているよりはむしろ時々はね、「ちょっといまここやばいぞ」という弱さの開示をしてくれると、そこにドライバーが「ちょっと手伝ってあげようか」という余地が生まれる。そういう関係性をつくっていかないと、突如折れちゃうと事故になってしまうので、そういう関係性も面白いかなと思いますね。
丸山 そうそう。それはそうですね。確かに。
岡田 だから、いつも弱々しいと、車というのは信頼性を売っているシステムなので、それはまずいんだけど、時々は自信満々に自動運転してくれていてもいいんだけど、センサーの信頼性なんかが落ちてきたときに「ちょっとやばいぞ」ということをうまく表現してくれるとそこにドライバーが関与する。オプションがある。そこに協力人がいるということですね。
丸山 「ちょっと最近僕右寄りに走ってない？」とか、メッセージが出てくると「ちょっとセンサーが消耗しているかもしれないから確認してよ」みたいなのがくると「そうなの？」みたいな感じでちょっと見てみようかなという感じになるけど、いきなり「センサーが故障しました」とアラートがあらわれても「いやいやいや……」と。だから、何か、こういう考え方がちゃんともっと広まって、人がこういう機械に完璧を求めないというか、「使う自分も含めて機械なんだ」みたいな。ルンバの話がわかりやすいと思うんですけど、あれ、椅子やコードを片付けることも含めてルンバと使う人の関係なんだ、という考え方がないじゃないですか。
一番重要なのは、最初の話に戻ると、個々の要素を強くしたら全体が強くなるのではなくて、個々の要素が弱くても関係性が強くて補完しあえるのであれば、システムとしては強くなるということですよね。それはコンピューターも一緒で、コンピューターのそれぞれの機器のソフトウェアはうまく完璧を求めていくとか、システムとして守るのを完璧にするということをするのではなくて、全体としての関係性、コミュニケーションの取り方ね。「いまちょっと弱くてやばいよ」というメッセージを出すとか、そういう関係性も含めた上でシステム全体を強くしましょうという発想に、というか、設計に、システムの設計を変えないと防潮堤の話になるんですよ。
岡田 いままでは「システムに完全に任せることが便利である」という錯覚のなかでシステムを設計してきたわけで、それで、関係性がだんだん希薄になってきて。
丸山 対立的になっていく。関係性がなくなって。
岡田 「便利だ」ということが、そういう状態を生んできたということですね。それを少しだけ引き戻すという意味で、「弱さの復権」みたいなことがあるのではないかなと。
丸山 それは、「できていないこともちゃんとコミュニケートして関係性のなかで、関係性を持ってシステムの運用を強くしていく」、そういうことですね。「おれ、弱いからできないから」ということを隠してコミュニケーションをとっていなかったら突然そこがポキっと折れてしまったらシステムがこけるので、そうならないように「やばいやばいやばい」といって「じゃぁ、オレが支えるから」という助けを求めるメッセージを出し、それを受け取ってそれを助けようとするみたいな、そういう関係がシステムの中で起こるということが重要なことで、それが全体のシステムとして必要なことで。
岡田 システムを全体として強くするためには、個々の弱さというのが、個々が弱ければ関係性のなかで補っていくというか、関係性のなかでそういう強さを求めていくしかないんですね。
丸山 コミュニケーションがとれなくなってしまって、結局ポキっと折れてしまうから、だからお互いに支えあっていったらひとつひとつの要素は弱くてもお互いがつながっているから倒れないみたいな。そういうふうな感じだと思う。
