予測できるはずがない

AIの壁 人間の知性を問いなおす (PHP新書)

 想定外のことが起こるものなんだ、その通りなのに、勘違いしやすいなと・・・。

 

P199

養老 今の人って、物事は予測がつくという考え方をしますね。できるわけないのに、予測できない方が悪いと思い違いしています。世界は論理的、合理的にできているから予測可能なはずだと。予測できない状況というのが非常に不安なんですね。

 村山内閣のときに危機管理に関する委員会ができて、その委員になれと言われたんです。「僕が危機管理?なんで?僕が解剖している人は全部死んじゃってて、危機は終わってるのに」と言ったんですけど、会議に出て何か言えと言われたので、仕方なしに「管理できない状況を危機っていうんじゃないんですか?」って言いました。相手にされませんでしたけどね。予測できるから危機は管理できるはずで、管理しなければならない、というような考え方が主流を占めていたような気がします。でも、危機管理って、その言葉自体が矛盾でしょ。

新井 危機管理という言葉ができることによって、「管理することになっているから管理できることにしよう」というように、話が捻転するのでしょう。「非戦闘地域には派遣しないことになっている自衛隊がいるところが非戦闘地域だ」というのと同じですね。

養老 AIがその筆頭でしょうけど、コンピュータが一番それをやるでしょ。「ああすればこうなる」「こうやったら売れる」「こうやったら、こう動く」と。それが、一番正しいやり方だって答えを出してくれる。合ってるかどうかは別ですけどね。

新井 でも、実は、AIが一番苦手なのが危機管理なんですよ。AIには定常状態しか予測できないんです。だから、ゲリラ豪雨とか地震とか墜落とか、想定外のことは予測できません。なぜかというと、滅多に起こらないことは、統計データにほとんど現れないので学習のしようがないからです。

養老 それじゃ、AIに危機管理は無理ですね。それで、原発事故のときは、今度は「想定外」って言い出した。一方で想定できない方が悪い、という話も出てくる。まあ、原発の場合は、危機管理なんかできっこないんだから、危ないものは作っちゃいけないというのが当たり前でしょうけれど、そういうことにはならなくて、「想定外だった」「いや、予想できたはずだ」という話になっているんですね。

 人生って想定外のことが起きるんですよ。その常識がなくなってしまって、何でも想定しなきゃいけない、というのが圧力になってしまっていますね。子どもの育て方がそうです。わからないことがあっちゃいけない。

新井 まさにおっしゃる通りで、拙著『AI vs. 教科書が読めない子どもたち』に対して、「子どもたちが文章を読めないことはわかった。でも、じゃあ、どうすればいいのか書いていない」という批判がものすごく多いんですよ。それがショックでした。研究者として誠実にファクトを調査して報告したのだから、それを受け止めて各自、考えたり試行錯誤したりすればいいと思うんです。なのに、問題提起するなら処方箋をセットで寄こせ、と平然と言う。何にでも答えがあって誰かが教えてくれると思っている人があまりに多くて驚きました。

 ・・・

養老 それが今の人に一番欠けていることですね。答えが書いていない、と不満を言うのは、そういうことですね。書いていないから面白くて、気持ちがいいはずなのに。

新井 「バカの壁」って、そういうことだと思うんです。「どうしたらいいか書いていない」と批判するのは、教えてもらわなかったら自分は何もできませんと告白しているようなものなのに、そのことに気づいていないんです。

養老 それ、僕もよく聞かれますよ。

新井 「バカの壁、どうやって乗り越えればいいですか?」

養老 その質問は、数え切れないくらい受けました。直感で言うと、きちんと会社勤めしている人というのは、多分、そういう人ですね。答えが欲しい。そういう人と話していても、あまり面白くありませんね。全員ではないですよ、もちろん。

 人間っていろんなことができるんですよ。それは、身体だけ見ててもよくわかるんです。僕の知り合いに本当にいろんなことをできる奴がいるんですけど、蝶の卵を採るために四〇~五〇メートルの木のてっぺんまでサッと登っていくんです。でも、見つからないときもあるんですよ。そしたら、隣の木に飛び移るんです。まるでサルですよ。彼は言うんです。サルにできることがヒトにできないわけないだろうって。

 最初からできないって決めていたら、何もできませんね。でも、やろうと思ったら、できるようになるかもしれない。誰かに教わるわけじゃないですよ。自分で考える。だから、何でもかんでも教えちゃダメなんです。

 一一歳くらいの子どもをジャングルに連れていくとしますよね。最初は怖がって何もできませんよ。でも、一週間も放り込んでおいたら、元気が出てきたりします。何でも自分で考えてやるようになります。

 そういう意味で、僕は楽天的です。生き物は適応能力が非常に高いんですよ。特に、生死に関わるようなことになると、俄然、能力が出てきます。それから、責任を持たせると能力を発揮します。だから、若い人を育てるのに一番いいのは責任を持たせることだと、いつも言っています。