「強い」は脆い？―「弱さ」が生みだすレジリエンスとセキュリティ ― ロボット研究者、岡田美智男さんと

　「する人」「される人」という線引きが作る脆さ

岡田　なかなかセキュリティの話とつながっていきませんけど、こんな感じで続けて大丈夫ですか(笑)。

丸山　大丈夫です(笑)。サイバーセキュリティもシステムの一部ですから、まずはシステムということで考える。システムを強くするためにはどうするかということですね。同時にシステムを構成する要素、たとえば機械を完璧にすることはできない。これは当たり前なんですが、いまはなんとなく人間が機械に完璧を求めているように思えるんですよね。すると機械と人間が対立的であるように思えますね。

岡田　たとえばルンバがですね、もっと完璧に掃除をするものであったらどうかというと、僕らはどうしても委ねちゃうんですよね。それで、「掃除をしてくれるルンバ」と「掃除をしてもらう人間」というふうに二手に分かれてしまう。やってくれる人とやってもらう人との間にひとたび線が引かれてしまうとけっこうね、「もっと静かにできないの？」とか、「もっと早くできないの？」とかというふうに、相手に対しての要求水準をどんどん上げてしまうということがあるんですね。

　だから、「やってくれる人」「やってもらう人」。それは、教師なんかもそうですけど、「教える人」と「教えてもらう人」というふうに役割が分かれた途端にですね、相手に対する要求水準をどんどん上げてしまう。僕らも一生懸命講義の準備をして完璧な講義をしようとすると、学生は「もっとわかりやすく、もっと大きな声で」というように、やってくれる人とやってもらう人との間にひとたび線を引いた途端に、相手に対する要求水準をどんどん上げてしまうということがあるのですね。

　それが、世の中のいろいろなところで当てはまってですね。例えば、単におばあちゃんを世話をするということが職業になった途端に、「介護する人」と「介護される人」との間に線が引かれた途端に、相手に対する要求水準をどんどん上げてしまう。もっともっと、ということですね。あるいは、例の防潮堤。防潮堤があると避難行動に遅れが生じるなんていう話があります。変な話ですが、津波が来るたびにですね、「なんでこの防潮堤こんな低かったの？　もっと高くしないと」と。

丸山　スーパー堤防になってしまう。

岡田　「守ってくれる人」と「守られる人」との間に線を引いた途端に、相手に対する要求水準をどんどん上げてしまうということで、津波が来るたびに「あの防潮堤を高くしよう」という議論になってしまって、そこに国のお金がどんどんつぎ込まれるものだから国が疲弊してしまう。あるいは、介護分野でも介護する人、介護される人というふうに二項対立的に分かれた途端に相手に対する要求をどんどん上げてしまうものだから、国の社会制度が疲弊してしまう。そんな感じなんですね。それをセキュリティの話にも持っていけないのかなというふうに思いますよね。

　「守ってくれる人」と「守ってもらう人」との間に線を引いた途端に相手に対する要求をどんどん上げてしまって、こちらはもうなにもしない。本当に受動的な存在になるだけになっちゃうので、レジリエンス、つまり社会のしなやかさがどんどん損なわれている感じがするんですね。役割をきちんと作っちゃうとですね。で、「自己責任」とか、そういうことなどもはびこってしまって、「このパソコンは、ちゃんとやるべきだ」というさっきの話になるわけですよね。「守ってくれるのが当たり前」「こっちは守られて当たり前」というふうにですね。その二項対立を解消して……、僕らは個体能力主義とか呼んでいるのですけど、それと関係論的なシステムとの間を行ったり来たりして議論していますね。

丸山　「守る側」と「守られる側」。確かに、二項対立にすると役割がはっきりするだけに「あなたの役割はこれです」「できてますか？　できてませんか？」「できてないよね。どうして？」みたいな話になってしまって。そういう対立軸で、お互いに「じゃぁ、それをやるためにどうしましょう？」となってそれができると「もっとしてほしい」という話で要求水準が、できたらできたで「じゃぁ、これはどうなの？」という話になって、いつまでも上がってしまう。確かにスーパー堤防につながっていく。

岡田　社会の中にいろいろなそういうものがあって、例えば、電子部品なんかもですね、モジュール化がすごく進んでいて、「あなたはこれをやる」というモジュールがある。「私はこれをやる」というモジュールがあるということで、きちんと役割を分けた途端にですね、相手に対する要求水準をどんどん上げちゃうんですね。信頼性を期待されたものが掛け合わさるので、全体のシステムはすごく脆くなってしまうということがあるんですね。

　たとえば、ビルとかマンションなんかもオール電化になる。それは便利だということなんだけど。トイレもお湯をわかすのも全部電気だとなってしまうと、電気が切れた途端にですね、何も出来ない脆い状況になるんですね。原発なんかのシステムも、原発は電気をつくり上げているシステムだから電気があるのは当たり前かというと、全部モーターで回そうとするわけですよね。でも、電気が来なくなってしまうとダメになってしまうとても脆いシステムなんですね。そういう、やってくれる人とやってもらう人の間に線を引いた途端にいろんなところですごく脆くなる。レジリエンスがどんどん損なわれているという感じがあるんですね。

丸山　それはどうしてだろう。いや、結局、システム自体を強靭にしようと思っているのに、なんかその二項対立なるとシステムを構成する要素に完璧をもとめてしまい、結局システム自体が強靭にならない。そうではなく、何かうまいことシステム的に強くなる方法があればよいということですよね。システム全体を見たときに、ひとつひとつの要素がそんなに完璧じゃなくても、不安全な要素同士が補完しあってシステム全体を見たときには、なんて言うのかな、強くなっているというか。そういうことですよね。

岡田　そういうことですね。