「ひとりでできないもん！」弱いロボットの誕生
丸山 今日はロボット研究者の岡田さんということで、ロボットとサイバーセキュリティ、共通点を見い出せるかどうか、チャレンジングな対話です（笑）。まずは岡田さんの仕事を簡単に教えていただけますか。
岡田 僕は、もともとは音声言語処理とか、対話理解システムの研究をしていました。1980〜90年ぐらいですね、いまで言う人工知能の技術を使ってコミュニケーションといいますか、会話の理解、相手の意図を理解するとか、コンピューターと人との会話の研究をしていました。ところが、だんだん言葉を扱うのが大変になってきまして。
丸山 というと？
岡田 AIの冬の時代と言われた頃です。従来のAI技術ではなかなか人の言語を扱うことが難しい時期がありました。どういうことかというと、相手の意図やプランを理解することが難しいということがわかってきた。コミュニケーションというのは、相手の意図やプランを理解することだというように議論されていた時代があるのですが、どうもそれが難しいということで、AIの冬の時代になった、みんないろいろな分野に流れて行ったんですね。脳科学やいまで言うデータサイエンスの分野にいく人もいました。
丸山 岡田先生はそこでロボットのほうへ向かわれた？
岡田 はい。僕らはコミュニケーションの中で、身体をベースとしたコミュニケーションの研究をしたいということを考えはじめたんですね。「伝え合う」っていうことには、「相手と自分とが同じような身体を持っている」っていう前提がとても大きいんですね。「相手が何を考えているのか？」と考えるときに、自分の身体が感じ取っていることを手がかりにして、相手が感じ取っていることを探ろうとする……そんな、身体を媒介にしたコミュニケーションを研究しようと。それで、それをやるためにロボットを作り始めたんです。要は、相手も同じような身体を持つという意味で、ロボットという身体を作りながら、そういう身体を備えたシステムと人とのコミュニケーションを生み出そうということです。
丸山 なるほど。最初からロボット屋さんだったわけではなくて、コミュニケーションの研究の延長としてロボットを作り始めたんですね。
岡田 そう。で、僕らは最初からロボット屋さんじゃないから、いろいろな技術が何もないんですよね。どうしてもローテクなロボットしか作れなくて。
そういう中でなんとなく弱々しいロボットとか、要は、高機能なロボットを作るのがなんとなく、しんどくなってきて……(笑)。
丸山 「なんとなく、しんどくなって」って正直ですね、いいですね(笑)。
岡田 それで、たとえば「ロボットがゴミを拾う」というようなことを考えた場合、普通は、自分で手を伸ばしてゴミを見つけて拾ってくれば、「ゴミを拾うロボット」になるのですが、そういう高機能なロボットを作るよりは、ゴミを拾う機能を実現するのが難しいんだったら、周りにいる子どもたちに拾ってもらえばいいんじゃないかなと。
丸山 それは、大きな発想の転換ですね。
岡田 それで、じゃあ、ゴミの分別というのも、きちんとした画像処理とか、センサー技術を使えばゴミを分別することはできるのですが、それが技術的に難しいのであれば、周りにいる子どもたちにゴミを分別してもらえばいいんじゃないの？という発想ですね。
普通はロボットの機能を、どんどん足し算していって高めるという方向でものづくりがされるのですが、こういう発想をしてくると、不要なものをどんどんそぎ落としてだんだんシンプルなロボットになるんです。技術的にもとてもチープなロボットになるのですが、周りとの関係性がリッチになるので、結果として目的、この場合は「ゴミを拾い集めること」を達成してしまう。だから、ロボットとしては何もできないんだけども、周りのアシストを上手に引き出して、結果としてゴミを拾い集めてしまう、そういうタイプのロボットをいろいろと作ることになったんです。
丸山 ロボット単体の機能ではなくて、周りの関係性がリッチになることで完成するわけですね。周りとコミュニケーションをとって、周りの人のサポートを得ながら目的を達成する。
岡田 そうですね。本来は自分ひとりで勝手に動くということが自律的なロボットの使命なんだけど、人の助けをうまく引き出しながら結果として目的を達成できればいいんじゃないかな？ということですね。
丸山 たしかに人間の場合も、みんな得手不得手があって、不得手を助け合いながら、補いながら社会が成り立っていますよね。ロボットが「何でもできます」じゃなくて、「俺、これはできるけど、これはできないから誰か手伝って」とコミュニケーションすることによって、目的を達成できると。
岡田 僕らは、生まれてずっと、ひとりでできることをよしとする文化の中で育っている感じがするんですよね。子どものときは、「はやくひとりでできるようになるんだよ」とか言われながら、お母さんが一生懸命世話をして、だんだん大きくなると「あぁ、もうひとりで靴下履けるね」なんて言われるようになって、少し得意がって靴下を履いていたりする。そういう価値観の下で育ってきたわけですね。学校教育なんかでも、テストはひとりで受けるものであって、誰の力も借りてはいけないことになっている。僕は最近、「なんでひとりで定期テストを受けるの？」って言っているんですが。
丸山 ああ、それはわかります。僕も、受験勉強をしているときにすごく思ったことがあって。僕は周りの受験校の中では優秀な人が集まっていた塾に通っていたんです。20人ぐらいのクラスで、灘高のトップとかも来てました。勉強していて、ちょっとわからないことを「わからない」と言うと、「それ、こうしたらええで」とお互いに「わからんけど」「わからんけど」と聞いたらすぐ答えが出てくるから、あっという間にみんなできるようになるんです。本当に。でもそれが、試験の時はひとりじゃないですか。でも試験だって頭がいい人が集まっているんだから、協力してやればあっという間にできるやん、というのがあってなんで試験ってひとりで受けるんだろうって思いましたよ。
岡田 ロボットも同じなんです。自律的なロボットの研究というのは、ひとりで勝手にできることを前提に設計されているところがある。なかなか周りの助けを借りるという発想がなかった。そういうスキルを考える研究があまりなかったんですね。結局人間も、さきほどの「みんな助けてもらっていますよ」という話なんですけど、我々の身体というのも、外から人の身体を見るとそれが自己完結している。人として。そのように見えてしまうのですが、自分の内側から自分の身体を見てみると、意外と自分の顔でさえ見えないとか、自分の背中でさえ見えない。だから、外から人の身体を見ると自己完結しているように見えるんだけど、自分の内側から見ると自分の身体って意外と完結していない。不完結であることが特徴なんですね。不完結だからこそこうやってしゃべりながら、相手の表情を見て、今自分がどんな表情で話しているか？ ということを類推しながら、そのイメージをここにくっつけて、相手と話していたりする。
丸山 なるほど。
岡田 そうして考えてみると、人の身体の不完結さというのが、コミュニケーションのひとつの原動力になっていたり、人と関わる原動力になっていたりということなんです。だから、コミュニケーションを考える上で、「我々の身体が自己不完結である」ということがけっこう重要なんです。要は、完結したものと完結したものが並んでいると、そこではコミュニケーションがいらないんですよね。自己不完結で相手から支えてもらって、自己完結させるということをお互いやっている。それで社会が作られているというか。
丸山 これは面白いですね。面白いですよ。もし人間が本当に強い動物であったら、ひとりとしてね、人間の社会ってできていなかったかもしれない。
岡田 そうですよね。
丸山 身体が自己完結していたら、ひとりでライオンに勝てて、ひとりでマンモスでも何でも捕れていたら、別に助けはいらないから、そういう社会が必要ない。ひとりではマンモスは倒せない。けど、お腹空いているからなんとかしたい。「あいつとあいつとあいつと組んだらどうにかできるんじゃないか？」というところでコミュニケーションが生まれて、言葉はなかったけれども、何かボディーランゲージみたいなもので、マンモスを倒してみんなで分配するみたいなこととか。最初はどうだったか知らないけど、きっと、そんなことがないとできなかったでしょうね。
岡田 で、ロボットを使ってコミュニケーションを研究しましょうということで、こういうロボットをふたつ並べて、ここでコミュニケーションさせようとすると、何のためにやるかが全然わからないんですね(笑)。完結したロボットをふたつ並べても。
丸山 あー、言われてみれば確かにそうです。
岡田 いろんなことを考える中で、「あ、我々の身体というのは不完結だから、他者との関係を作り上げる、多少支えてもらうような関係を作るんだな」とだんだんわかってきたということですね。ゴミを拾うロボットなんかも、ひとりでは何もできないような、本当に弱いロボットなのですが、子どもたちのアシストを上手に引き出してそこで結果としてゴミを拾い集めるわけですよ。それと同時に周りの手伝ってくれた人もそんな悪い気がしない。やってあげたことで「なんかいいことしたな」という気になる。
丸山 ゴミ箱ロボットというのは、本当に何もしないんですか？
岡田 要は、ただのゴミ箱なんですよね。それがヨタヨタヨタヨタしながら。
丸山 かわいい(笑)。
岡田 子どもたちが集まるような施設の広場で、ただこうやってヨタヨタして、自分でゴミを拾えないんです。周りの子どもたちも何だかわからない。
丸山 ゴミ箱だとわかったらみんなで捨て始めるわけですね。
岡田 ええ。ゴミを集めてきてくれるんですね。
丸山 勝手に。
岡田 ええ。それで、ゴミを入れてくれると少しお辞儀をしたりする。
丸山 お辞儀はするんですね(笑)。お辞儀もコミュニケーションですね。
岡田 こういう、少しヨタヨタ系のひとりでは何もできないロボットをあえて作ってみて、人とどういうインタラクションがあるのかということを探っている。先ほど言っていたのは、単に人からのアシストを引き受けるだけでなく、人の方、手伝っている方も何か悪い気がしない。ロボットを助けてあげているという意味で、ロボットの存在によって自分が価値付けられているような、お互いに支えつつ、支えているような関係が生まれてくるのではないかということなんですね。
こちらもチェック！
『約10年ぶりの改正：新しい個人情報保護法とその影響 前編』など、デロイトトーマツ サイバーセキュリティ先端研究所ではサイバー、情報セキュリティに関するさまざまなコンテンツを公開しています。→→ デロイトトーマツ サイバーセキュリティ先端研究所
協力を引き出す何か
丸山 こうして考えてみると、ロボットやシステムというのは、そもそも全部弱いところがあって、完結していない。要は、自己完結していないという意味において弱いということにあらためて気づかされますね。ゴミ箱ロボットは極端な例というか、そのことに気づかせてくれる。
岡田 僕はけっこうルンバの話が好きで。
丸山 お掃除ロボットですね。ゴミ箱ロボットよりは働きますよね。
岡田 そう、ルンバって、ひとりで勝手にお掃除をしてくれると僕らは想定して家に置きますよね。ところがルンバって、部屋の隅にあるコードに引っかかってギブアップしたり、段差に弱かったりするじゃないですか。
丸山 はい。袋小路になったところに入っていって出られなくなっちゃったり(笑)。
岡田 そういう要素がだんだんわかってくると、僕らはスイッチを入れる前に最初にコードを直してあげるとか、椅子を並べてあげるようになっていて、結果として部屋はとてもきれいになってしまう。
丸山 ルンバと人間のコラボレーションによって部屋がきれいになっている。
岡田 それは誰が片付けたかというと、僕ひとりでもないし、ルンバがひとりでやってくれたわけでもなくて、ルンバというのは、僕らを味方につけながら一緒になって部屋をきれいにしてしまう。そういう人とロボットの関係性もある。これを「弱いロボット」と僕らは呼んでいるんですね。
いままで機械として捉えたときに、その弱さというのは単なる欠点だったり、潰すべきものだったわけですけども、ロボットとして、かわいらしく動いた途端にですね、その弱さが僕らの手助けを引き出すための非常に大事な要因になっているのが面白いなと。これまでの家電の考え方とは全然方向性が違うと感じたんですね。そのような機械の弱さというか、ロボットの弱さが周りの手助けを引き出しているというのは、なかなか面白いということで、弱いロボットの研究をいろいろ始めています。
丸山 ロボットができないところを「ごめんね。できないけど許して」みたいな感じで、相手の協力を得るコミュニケーションを「かわいさ」という感覚を通じてやっているのかもしれないけど、引き出す何か、そういうことをやっているんですね。
岡田 そうですね。
丸山 「協力を引き出す」というところが面白いですね。ゴミ箱ロボットがヨタヨタしていて、子どもが興味を持って、何かやったらお辞儀をしてくれて、そういうコミュニケーションのなかで「手伝おうか」という気にさせている。それは、ゴミ箱が単にクルクル回っているだけだったら、「ふーん」で終わってしまうと思う。そこを何か考えないといけないですよね。協力を引き出すための何か。
これ、コンピューターシステムに置き換えて考えてみても面白いと思います。自分のできないところをうまくちゃんと伝えて、「これできないんだけどなんとか協力して」みたいなことを引き出すようなシステム。もともとシステムって全部完璧じゃないですからね。会社で使っていてもシステムができないと、普通は腹が立ちますよね。「反応遅いな」とか「肝心なデータが取り出せない」とか。それは、できて当然と思っているから。そこは、何か違う要素があれば「しゃぁないな。オレがなんとかしたるわ」と、そういう、できないところをうまく「そこは人間がするからいいよ」というふうに持っていくインセンティブが働くような仕組みにしないといけないですね。
岡田 バグですよね。
丸山 バグです。本来は機能としてあるべきものがない。ゴミ箱ロボットと似ていますね(笑)。ゴミ箱ロボットとしても、本当は拾ってきてゴミを捨てるなり、掃いていくとか、そういうのがロボットとしての機能として必要なんだろうと多くの人が思うども、できない。「僕できないからそこ助けて」「じゃぁ、しゃぁないな」というその「しゃぁないな」を引き出す何かがあることが重要ですね。自分のできないところを助けてもらう。最終的には何か目標を達成するために本当は全部揃ってないといけないんだけど、もう諦めて、他人に助けてもらう前提で考える。
岡田 けっこうそういうロボットを作ってきました。もどかしいロボットとかですね、あと、このフラフラというのは、おぼつかないとか、おしゃべりするときもたどたどしいとか、そういうものをいろいろ利用して人の手助けとか、人のやさしさとか、人の工夫を引き出してそこで少し価値あることを実現しようと。
丸山 相手の協力を引き出すときのポイントって何なんですか？
岡田 やはり身体ですね。その対象も自分と同じような身体を持っているということがけっこう重要な要素です。思わず、自分の身体を相手に重ねて考えようとする。共感を引き出すようなことをですね。そのときに、目の前のものが機械であると共感を引き出せないわけですよね。だから、自分と同じような身体を持っていることが重要で、それは必ずしも形が同じという意味ではなくて、環境との関わり方とか、関わりの様式が似たものに対して僕らは思わず自分を重ねてしまうことがある。
丸山 自分に近い何かがあるとそこで共感しやすくなりますね。しかも、身体と言っても形が同じという意味ではないということは、いわゆるヒューマノイドである必要はないということですか？
岡田 ロボットの人らしさということにアプローチするには二つの方法があって、ひとつは、やっぱり、目の前に実体として手本があるんだから、その実体に近づけていけば人らしくなるのではないかという発想がアンドロイドとかジェミノイドといったものがあるわけですが、僕らは実体に近づけなくても周囲との切り結びの様式が同じならば、人らしさを作り出せるのではないかという発想なんですね。それは、実体としての同形性に対して、関係としての同形性と言っているのですが、同じ「人らしさ」もですね、周囲との関わり方、関わる様式がとても近ければ、人のように感じることができるのではないかと。
丸山 面白いですね。そういう、弱さというか、引き出す力というのがあるということが重要なんですね。そして、引き出す力は、自分の身体、身体的なものと共感できる何かがあったらそこでできると。
「する人」「される人」という線引きが作る脆さ
岡田 なかなかセキュリティの話とつながっていきませんけど、こんな感じで続けて大丈夫ですか(笑)。
丸山 大丈夫です(笑)。サイバーセキュリティもシステムの一部ですから、まずはシステムということで考える。システムを強くするためにはどうするかということですね。同時にシステムを構成する要素、たとえば機械を完璧にすることはできない。これは当たり前なんですが、いまはなんとなく人間が機械に完璧を求めているように思えるんですよね。すると機械と人間が対立的であるように思えますね。
岡田 たとえばルンバがですね、もっと完璧に掃除をするものであったらどうかというと、僕らはどうしても委ねちゃうんですよね。それで、「掃除をしてくれるルンバ」と「掃除をしてもらう人間」というふうに二手に分かれてしまう。やってくれる人とやってもらう人との間にひとたび線が引かれてしまうとけっこうね、「もっと静かにできないの？」とか、「もっと早くできないの？」とかというふうに、相手に対しての要求水準をどんどん上げてしまうということがあるんですね。
だから、「やってくれる人」「やってもらう人」。それは、教師なんかもそうですけど、「教える人」と「教えてもらう人」というふうに役割が分かれた途端にですね、相手に対する要求水準をどんどん上げてしまう。僕らも一生懸命講義の準備をして完璧な講義をしようとすると、学生は「もっとわかりやすく、もっと大きな声で」というように、やってくれる人とやってもらう人との間にひとたび線を引いた途端に、相手に対する要求水準をどんどん上げてしまうということがあるのですね。
それが、世の中のいろいろなところで当てはまってですね。例えば、単におばあちゃんを世話をするということが職業になった途端に、「介護する人」と「介護される人」との間に線が引かれた途端に、相手に対する要求水準をどんどん上げてしまう。もっともっと、ということですね。あるいは、例の防潮堤。防潮堤があると避難行動に遅れが生じるなんていう話があります。変な話ですが、津波が来るたびにですね、「なんでこの防潮堤こんな低かったの？ もっと高くしないと」と。
丸山 スーパー堤防になってしまう。
岡田 「守ってくれる人」と「守られる人」との間に線を引いた途端に、相手に対する要求水準をどんどん上げてしまうということで、津波が来るたびに「あの防潮堤を高くしよう」という議論になってしまって、そこに国のお金がどんどんつぎ込まれるものだから国が疲弊してしまう。あるいは、介護分野でも介護する人、介護される人というふうに二項対立的に分かれた途端に相手に対する要求をどんどん上げてしまうものだから、国の社会制度が疲弊してしまう。そんな感じなんですね。それをセキュリティの話にも持っていけないのかなというふうに思いますよね。
「守ってくれる人」と「守ってもらう人」との間に線を引いた途端に相手に対する要求をどんどん上げてしまって、こちらはもうなにもしない。本当に受動的な存在になるだけになっちゃうので、レジリエンス、つまり社会のしなやかさがどんどん損なわれている感じがするんですね。役割をきちんと作っちゃうとですね。で、「自己責任」とか、そういうことなどもはびこってしまって、「このパソコンは、ちゃんとやるべきだ」というさっきの話になるわけですよね。「守ってくれるのが当たり前」「こっちは守られて当たり前」というふうにですね。その二項対立を解消して……、僕らは個体能力主義とか呼んでいるのですけど、それと関係論的なシステムとの間を行ったり来たりして議論していますね。
丸山 「守る側」と「守られる側」。確かに、二項対立にすると役割がはっきりするだけに「あなたの役割はこれです」「できてますか？ できてませんか？」「できてないよね。どうして？」みたいな話になってしまって。そういう対立軸で、お互いに「じゃぁ、それをやるためにどうしましょう？」となってそれができると「もっとしてほしい」という話で要求水準が、できたらできたで「じゃぁ、これはどうなの？」という話になって、いつまでも上がってしまう。確かにスーパー堤防につながっていく。
岡田 社会の中にいろいろなそういうものがあって、例えば、電子部品なんかもですね、モジュール化がすごく進んでいて、「あなたはこれをやる」というモジュールがある。「私はこれをやる」というモジュールがあるということで、きちんと役割を分けた途端にですね、相手に対する要求水準をどんどん上げちゃうんですね。信頼性を期待されたものが掛け合わさるので、全体のシステムはすごく脆くなってしまうということがあるんですね。
たとえば、ビルとかマンションなんかもオール電化になる。それは便利だということなんだけど。トイレもお湯をわかすのも全部電気だとなってしまうと、電気が切れた途端にですね、何も出来ない脆い状況になるんですね。原発なんかのシステムも、原発は電気をつくり上げているシステムだから電気があるのは当たり前かというと、全部モーターで回そうとするわけですよね。でも、電気が来なくなってしまうとダメになってしまうとても脆いシステムなんですね。そういう、やってくれる人とやってもらう人の間に線を引いた途端にいろんなところですごく脆くなる。レジリエンスがどんどん損なわれているという感じがあるんですね。
丸山 それはどうしてだろう。いや、結局、システム自体を強靭にしようと思っているのに、なんかその二項対立なるとシステムを構成する要素に完璧をもとめてしまい、結局システム自体が強靭にならない。そうではなく、何かうまいことシステム的に強くなる方法があればよいということですよね。システム全体を見たときに、ひとつひとつの要素がそんなに完璧じゃなくても、不安全な要素同士が補完しあってシステム全体を見たときには、なんて言うのかな、強くなっているというか。そういうことですよね。
岡田 そういうことですね。
弱さの開示とレジリエンス
岡田 それで、「弱さの情報公開」というキーワードがあるんです。北海道浦河町の「ベてるの家」という、精神障害者施設というのがあって、そこの施設のキーワードのひとつが「弱さの情報公開」なんですね。いわゆる精神疾患のある人たちというのは、自分の弱さをなかなか人に見せられなくて、自分のなかで折れてしまうことがけっこう多かったのです。この施設では施設のなかで自分の弱さをみんなで公開しあうんですね。すると、そこで関係性がだんだん生まれてきて、という話なんですね。いま、社会システムってみんな強がりを言っているんですよね。防潮堤もそうですね。「これは、大丈夫だよ、大丈夫だよ」といっていたけど途中で折れてしまったり、原発なんかもそうですね。サイバーセキュリティなんかも弱さを見せちゃうと攻撃されてしまうので、みんな強がりを言っていますよね。でも、内情は弱い要素があるわけです。だから、部分的には弱さをうまく自己開示してくれると周りの工夫とか手助けを引き出す余地が生まれてくる。
丸山 そういう考え方に切り替えないと、もう、本当に防潮堤だけがどんどん高くなっていくという。ビジネス的にはそっちのほうが儲かるんですよね、きっと。次から次のほうがね。ただそれが社会全体の幸せになっているかというと少し話は別ですよね。
岡田 防潮堤が時々弱さを情報公開、自己開示してくれると、「あぁ、そろそろやばい、水が漏れちゃう」となったら、そこに住んでいる人の工夫を引き出して、一緒になってレジリエンスな社会がつくれるはずなんですよ。
丸山 ですよね。サイバーセキュリティにもレジリエンスが必要なんですよ。
岡田 それで、社会システム全体をそういうもの社会実装したいなぁと、僕なんかは思っているのです。例えばですね、バスの運行システム、1分でも遅れたらみんなクレームを言ってしまうんですね。「なんで遅れたんだ」と。「もう、遅れちゃうじゃないか」とクレームの嵐なんだけど、バスの運行システムも時々弱さを自己開示してくれるとおもしろいなぁと。「いま一生懸命頑張っているんだけど、ここ渋滞なんだよね」と自己開示してくれると待っている人も、「あぁ、バスのやつ頑張っているんだな」という余裕が生まれて、工夫が生まれる。
いま路線バスでも「いまここ走っていますよ。次この駅に着きますからもう少し待ってくださいね」というように自己開示してくれるものもありますね。そうすると、待っている方も余裕が出て、少し遅れても「あぁ、こいつも頑張ってたんだな」という気持ちになるということですよね。そういう対話が社会の中で生まれてくる感じですよね。
丸山 それは、システムとしてね。コンピューターとしてではなく、システムとして、何かお互いに目的を達成するために、補いあうというか。
岡田 ですよね。ですから、コンピューターシステムなり、サイバーセキュリティシステムがそれなりの働きがあるわけだけど、弱さもあって。我々人も、ちょっとした働きもあるし、弱さもある。でも、そこをうまく補いあうことの仕組みができるとね。
丸山 補いあうということをお互いに引き出し合う。そして、全体としては強くなるみたいなのが。
岡田 それで、人と人との共同性を引き出すひとつのポイントはですね、自分の状態を常に相手が参照可能なように表示しているということがけっこう重要なんですね。
丸山 さきほどの、コミュニケーションをとるために、ということでね。
岡田 それもあるんですけど、こういう社会的に相互行為を行っている時というのは、常にいま自分が何を考えて、どんなことをしようとしているかを相手にもわかるようにディスプレイしているということが重要なんですね。それがいまパソコンとかセキュリティシステムが非常に寡黙なんです。何を考えているかわからない。どういう状態なのかわからない。そうすると人も不安だし、不安だと複雑すぎるからもう関係性を切っちゃって、距離が生まれてしまう。ということがいま起こっているわけです。ですから、常にシステム側も自己開示するというか、ディスプレイしてくれるとこちらが補う余地が生まれる。
丸山 なるほど。その弱さの開示というか、ピンチの開示かもしれないですけど、「オレは弱くなってきているんだ」という。
岡田 だけど、いまは弱さを見せられない社会になっているのでなかなかそういうふうなことにすぐには行かないんだけども、本当は社会システムをそういう方向に持って行くと面白いかなと。
丸山 弱さの開示も、「この情報システムの、うちはこんなことができてません。なので、みんなで協力してね」というのを全世界に開示する必要はなくて、協力をお願いしたい人だけ開示をすればよいんですよね。
岡田 ええ。ユーザーとの間とか、会社内とか。
丸山 開示する範囲というのは、いろいろ調整はできるので、うまく調整すれば、その中のシステムとしては、レジリエンスにしていけるような気はしますよね。弱さの開示、そこを助けてもらわないといけないような部分の開示をして引き出すということを組み合わせると、ひとつひとつの要素が完璧じゃなくてもシステムとしては、強くなる。レジリエンスになる。そういう風な持って行き方をしないと、要素の強さを積み上げていったところでコミュニケーションが希薄になったらシステムとしては弱くなってしまう。全体としてはね。
岡田 それは、国と国との関係も。
丸山 全部一緒ですよね。
岡田 結局みんな強がっているから戦争になってしまうんですけど、「オレはちょっとここをPM2.5で弱っているんだけどどうしよう」とか、みんなで弱さを情報開示してくれると、「いや、それだったらここで助けられるよ」ということで、社会全体のレジリエンスが向上する、という話になる。
丸山 あれは、なんで弱さを出せないんですかね？
岡田 いやいや、それは、弱さに対して攻撃をするやつがいるからなんですよね。
丸山 そうか。
岡田 弱いところを突っついて、相手を負かしてしまう。国と国だったらば、日本も近隣諸国も自分の弱さを自己開示できない、「実はいまおれここが弱いんだよ」とは言えないですよね。
丸山 言えないですよね。そうすると、強さ。「これだけ強いです」という強がりの連鎖になる。
岡田 会社のなかにもありますね。
丸山 あれは、社内政治があるからかな？ 給料に響くとか。よくわからないけど。できてなくても「できたふりをする」ということをよく見ますよね。
岡田 それは、最近の不正会計なんかも同じでみんな強がっているんですよね。だから、弱くても外に出せないからごまかしちゃう。
丸山 わからないですね。弱さを見せることへの恐怖でしょうか。だとしたら、身体的なものだからさ、逆に言うとそれを取り除くの難しいかもしれない。
岡田 それでいろいろな議論が巻き起こっているわけですよね。どうしたらいいか。
丸山 弱さを開示する。ま、コンピューターなら別にいいよね。そういう意味では。「つけこまれる」とか、そんなことを考えなくてもいいから。「やばくなってきたら、こういうふうにやろうやろう」とできますからね。
岡田 そういう議論が学校の場の中でも同じように、いじめとか、子どもが自分の弱さを見せちゃうと相手の攻撃にあってしまうとか、相手の弱さを潰しちゃうとか、いろいろなせめぎ合いがあるんだけど、そういうのをどう克服するかということは、けっこう教育関係者の間で議論していますね。こういう考え方をサイバーセキュリティなんかに少し応用できないのかなと。
丸山 いや、できると思います。それってサイバーセキュリティって結局100％機械でするわけではなくて、かといって100％人間でするわけでもなくて、機械の要素と人間の要素が混じっている。先日、新聞を読んでてね、ロボットというのが実はそんなにいまのところ恐怖じゃないのは、人間が考えたことをやっているからですよねって話が書いていました。現在のロボットは人間の思考の範囲内にいて、そういう意味で結局人間なんです。人間がやる作業を「こうしてくれたら楽になるのに」とかいうのを実現している。自動改札機と一緒で、結局人間の活動の一部をロボットにしていて、ロボットが何かを考えてロボットをつくっているわけではないからいまのところ大丈夫だという話があったんです。まだ人間が、サイバーセキュリティの中心で、人間が考えている範囲からは超えてないです。だからやっぱり、人間の弱さというのは、ちゃんと認め合うというか、そんなのがあれば結局、セキュリティでも何でも同じことが言えると思いますね。結局人間の弱さが起こしていることに違いはないので。
岡田 そうですね。人間がつくった穴なわけだから。セキュリティホールなわけだから。
丸山 そうそう。結果的にはね。意図的か意図的じゃないかは別としても、結局人間の思考からは超えてないです。いまどれだけロボットの技術が進んでいるといっても。いまのところね。所詮人間のなかでやっているから、その道具がコンピューターになろうが結局人間の問題なんですね、これは。そこで、弱さを認め合うという社会というのは、重要な課題です。国同士の問題だって同じですね。システムという意味でいると。
岡田 話が大きくなっちゃうのですが、システムか、その脆弱なシステムとそれを使う人との間のことを考えれば何かいけそうな気がする。
丸山 同盟という、国同士の取り決めなどがありますが、あれも一緒ですよね。お互いに「おれね、ちょっと金はあるんだけど兵隊がない」「兵隊はあるねんけど、ちょっと金が足らんのや」ということで同盟が組まれるわけで。共通の目標があるから、その目標に向かってお互いの弱さを認め合って協力していくということですよね。
岡田 同盟ということは、お互い自分の弱さを開示しあうから関係しあえるんですよね。
丸山 やっぱり、国と国でもできるんですよね。弱さを開示するということは。だから、目的がちゃんとあって、それに対して目標を達成しようと思ったときにお互いの弱さを認め合うようなことができればできるんですね。だから、ただ単に「弱さを出せ」と言われても出せないけども、「何かを達成するために、お互い足らんものがあるよね」というふうにしたときにはできるなといま思いました。だから、その浦河の施設も何かをするためにお互いに弱さを出し合うんですよね。普通の社会生活を送れるようにするためか、何かは知らないけれど。
岡田 そういうことですけどね。
丸山 そのためには、「お前、自分ができないことを周りに黙っていてもできないよね」と言わないというところをどんなふうにするか。
人工知能とのつきあいかた
岡田 一般社会や会社の中っていま能力主義とかがあって、自己責任とか、それでみんな孤立してしまって精神的におかしくなって、不眠症だとかになってしまう。先ほど紹介した北海道の「べてるの家」に入るとお互いの弱さを認め合った中で、それで、関係性を取り戻すというか、本来の状態を取り戻す。そういう場を作っていますね。そこも、会社経営のことをやっていて、もう「さぼってもいい」とかいろいろお互い寛容な関係のなかで関係をだんだんつくり上げて、また社会に戻るという施設で、そのときにキーワードになったのがお互いの「弱さの情報開示」というものでした。
丸山 やっぱりそこで完璧を求めていた自分に対してのね、それがやっぱり障害になってしまってというかね。たしかに、弱さを認めるというか、当たり前と思うけどね。できてないのが。「できてる」と言っているほどあやしいですよね。「できてないでしょ？」「大丈夫じゃないよ、ほんとはね」ってね。
岡田 いま人工知能のシステムなんかもけっこう強がっているんですけど、でも、内容は大したことはないわけですよね。それで、じゃぁどう関わりをつくるかなんですよね。「脅威」「脅威」と言っているけど、本当はそんなことないはずなんですよね。うまくこう、お互いの欠点を開示していけばですね。
丸山 苦手な分野とか、得意じゃない分野というのをお互いに開示して、協力を引き出すということ。その引き出し方も「オレ弱いんだけどちょっと手伝ってよ」ではなくて、何かうまくやり方があるのでしょうね。協力をお互いに引き出すということで、社会全体を強くする。というか、社会全体を強くするためにそういう仕組をやっていかないといけない。
岡田 デザインしていく。
丸山 デザインしていかないといけない。それは重要ですね。システムを強くするという意味で言うと、それはサイバーセキュリティでもなんでも同じです。形としては一緒で、テーマが違うだけ。テーマが「サイバーセキュリティ」なのか、「社会」なのか、「国」関係なのかは別として、構造としては一緒なので、同じロジックでできますよ。弱さの開示というのは。
岡田 さっき少し話していたのは、いま自動運転の車っていろいろ各社競いあってつくっているんですよね。自動運転の車って意外と強がりを言っているわけですね。「オレひとりで運転できちゃうよ」と。だけど、実際は非常に信頼性の低いシステムだったりするので、自信満々に運転してくれているよりはむしろ時々はね、「ちょっといまここやばいぞ」という弱さの開示をしてくれると、そこにドライバーが「ちょっと手伝ってあげようか」という余地が生まれる。そういう関係性をつくっていかないと、突如折れちゃうと事故になってしまうので、そういう関係性も面白いかなと思いますね。
丸山 そうそう。それはそうですね。確かに。
岡田 だから、いつも弱々しいと、車というのは信頼性を売っているシステムなので、それはまずいんだけど、時々は自信満々に自動運転してくれていてもいいんだけど、センサーの信頼性なんかが落ちてきたときに「ちょっとやばいぞ」ということをうまく表現してくれるとそこにドライバーが関与する。オプションがある。そこに協力人がいるということですね。
丸山 「ちょっと最近僕右寄りに走ってない？」とか、メッセージが出てくると「ちょっとセンサーが消耗しているかもしれないから確認してよ」みたいなのがくると「そうなの？」みたいな感じでちょっと見てみようかなという感じになるけど、いきなり「センサーが故障しました」とアラートがあらわれても「いやいやいや……」と。だから、何か、こういう考え方がちゃんともっと広まって、人がこういう機械に完璧を求めないというか、「使う自分も含めて機械なんだ」みたいな。ルンバの話がわかりやすいと思うんですけど、あれ、椅子やコードを片付けることも含めてルンバと使う人の関係なんだ、という考え方がないじゃないですか。
一番重要なのは、最初の話に戻ると、個々の要素を強くしたら全体が強くなるのではなくて、個々の要素が弱くても関係性が強くて補完しあえるのであれば、システムとしては強くなるということですよね。それはコンピューターも一緒で、コンピューターのそれぞれの機器のソフトウェアはうまく完璧を求めていくとか、システムとして守るのを完璧にするということをするのではなくて、全体としての関係性、コミュニケーションの取り方ね。「いまちょっと弱くてやばいよ」というメッセージを出すとか、そういう関係性も含めた上でシステム全体を強くしましょうという発想に、というか、設計に、システムの設計を変えないと防潮堤の話になるんですよ。
岡田 いままでは「システムに完全に任せることが便利である」という錯覚のなかでシステムを設計してきたわけで、それで、関係性がだんだん希薄になってきて。
丸山 対立的になっていく。関係性がなくなって。
岡田 「便利だ」ということが、そういう状態を生んできたということですね。それを少しだけ引き戻すという意味で、「弱さの復権」みたいなことがあるのではないかなと。
丸山 それは、「できていないこともちゃんとコミュニケートして関係性のなかで、関係性を持ってシステムの運用を強くしていく」、そういうことですね。「おれ、弱いからできないから」ということを隠してコミュニケーションをとっていなかったら突然そこがポキっと折れてしまったらシステムがこけるので、そうならないように「やばいやばいやばい」といって「じゃぁ、オレが支えるから」という助けを求めるメッセージを出し、それを受け取ってそれを助けようとするみたいな、そういう関係がシステムの中で起こるということが重要なことで、それが全体のシステムとして必要なことで。
岡田 システムを全体として強くするためには、個々の弱さというのが、個々が弱ければ関係性のなかで補っていくというか、関係性のなかでそういう強さを求めていくしかないんですね。
丸山 コミュニケーションがとれなくなってしまって、結局ポキっと折れてしまうから、だからお互いに支えあっていったらひとつひとつの要素は弱くてもお互いがつながっているから倒れないみたいな。そういうふうな感じだと思う。
インターネットはそもそも穴だらけだった
岡田 量販店に行くと毎年毎年新しい冷蔵庫とか電子レンジとかが出てきて、少しずつ機能が追加されているんですね。それで、まぁ、同じ値段だったら機能の追加されたものをユーザーは買ってしまうから、技術者も毎年少しずつ加えないといけない。それの繰り返しをしていると、そういうのを「なし崩しの機能追加主義」と言うのですが、「もっと、もっと」いう要求のなかで日本のものづくり企業がどんどん疲弊してしまう。ということになるんですね。そういうものも限界。いろいろな機能をつけてももう限界で、値段も下がらないと、他のところに負けてしまうのですが、だったら引き算でいいじゃないかという話になるんですね。たぶんセキュリティシステムも、「セキュリティ、セキュリティ」ってどんどん追加、追加、追加しても限界があって、だったらものごとの考え方を変えましょうという話ですよね。
丸山 それは確かにそう。なんて言ったらいいかな。最近っていろいろなセキュリティ製品がバーっと出てきたりするので「これ、使ったほうがいいですか？」って、それは状況によるからね。これを使ったらよいかどうかは環境による。どういう攻撃を受けているかとか、いろいろな刻みのシステムで、どういうふうに守られているかによって、「これを入れるのもダブりだし」とか、「これいま全然守られてないから入れたほうがいい」とか、「そんな攻撃受けてないから関係ないよ」かもしれないですよね。でもわからない。複雑すぎて。だから、やっぱりもう少し本質的に何が重要かって、もっとシンプルに考えるようになることからやっていかないといけないと思いますね。
岡田 インターネットはもともとね、軍事的に、単一のシステムが壊されるとどうにもならないので、並立化、分散化しようということで作ったんだけど、それがいまは穴だらけになってしまっているらしいので。
丸山 いや、あれはもともと「通信が途切れないようにしましょう」でつくったから、その設計思想ですよね。ネットワークって。
岡田 どこからでも入り込めてしまうという……。
丸山 だからどこからでも入り込めちゃうんですよね。逆に言うと。でないとシステムが途切れないといけないということになる。だから、そういう設計思想のもののなかで情報が漏れないようにしましょうというものをやろうとするから無理なんです。
岡田 無理なんですよね。
丸山 無理なんです。
岡田 ずっと穴が開いてるから。
丸山 だから、元々が無理なんです。無理なことやろうとするからすごいコストがかかる。設計思想が違うものの中に載せようとするから間違いなんですね。
岡田 だから、弱さがきちんとわかっていれば、重要なファイルをそこに置くというふうにはならないんですね。
丸山 そうそうそう。
岡田 「なんであんな大事なものをサーバーに置いちゃうかなぁ」と思うんですけど、置いちゃうんですね。
丸山 だから、そこをわかってない。それは、全部そうです。設計思想が違う、っていうのがありますね。もともとあれは軍事用で、経路を指定してやるから、その経路を止められるともう通信できない。インターネットは「いろんな経路でつなげられるから、ここがダメだったらこういうふうに経路を変えればつながるよね、ということで通信が確実にできます」という発想だから、「秘密を守ります」という発想はまずない。そこには。最初から。秘密は情報を暗号化して流せば取られないから、「暗号化した情報しか流しません」とやったら問題なかったかもしれないですが、普通に流すもんだからどうしようもないですよね、そもそも。そういうことです。
いや、おもしろかった。今日のお話はセキュリティだけではありませんね。社会問題。社会の全部の構造ですね。岡田先生、ぜひ頑張ってこれからも情報発信していってください。
岡田 ありがとうございます。ゆっくりとですが書いています。がんばります。
丸山 今日はどうもありがとうございました。
岡田美智男（おかだ みちお）
1987年、NTT基礎研究所 情報科学研究部入社。1995年、国際電気通信基礎技術研究所(ATR) 主任研究員。1998年-2005年：京都大学大学院情報学研究科 客員助教授(兼務)。2006年、豊橋技術科学大学 情報・知能工学系 教授、現在に至る。
主たる研究分野は、コミュニケーションの認知科学、ヒューマン・ロボットインタラクション、社会的ロボティクス。編著書に『弱いロボット』(医学書院)、『ロボットの悲しみ コミュニケーションをめぐる人とロボットの生態学』(新曜社)などがある。
