生成AIについて知りたかったので読んでみました。
批判的な視点を持ちつつ、AIと協働するには・・・この本の時点ではGPT4なので、今はもっとすごいことになっているのだろうなと驚きました。
P207
筆者は、ディープラーニングによるAIとは何かと聞かれたときに、一言で表すならば「機械化された直感力」であると説明しています。
筆者がこういう表現を使い始めたのは2016年頃です。東京大学で招待講演をしたとき、「ディープラーニングとは、機械化された直感力である」と説明すると、筆者を招聘した先生が割って入ってきて「そんなわけはない」と反論されました。
しかし、その当時の筆者はほとんど確信していたのです。
のちに、ディープラーニングの三大巨人の一人であるヨシュア・ベンジオ教授が「Artificial Intuition（人工直感）」という言葉を使っていると知ったとき、筆者の「直感」は間違っていなかったと胸を撫で下ろしました。
なぜ、これを筆者は「直感」と呼ぶのか、そのことについてもう少し詳しく説明しましょう。
生成系AIの一つの例として、強化学習というものがあります。
強化学習では、AIと「環境」をセットで動かします。AIは環境を観察し、ある場面で最適と思われる行動を選択します。行動の結果、うまくいけば正の報酬、失敗すると負の報酬を受け取ります。
学習初期は正の報酬も負の報酬も得られないため、まずはAIはデタラメに行動します。そのうちに成功か失敗かわかるときが来て、そこからあらためて過去の行動を振り返り、「この場面でこういう行動をしたときはダメだった」と反省するかのように学習を繰り返すのです。
そしてこの学習を繰り返すと、AI自身が「現在の状況」を判断する能力がどんどん上がっていきます。
・・・
強化学習というのは、実は計画立案にとても有効です。ある計画を立案するときに、生成系AIと強化学習を使って「未来のこの場面」をシミュレートしていきます。
「未来のこの場面」と、そこでどう行動したか、その結果環境はどう変化したか、というシミュレーションを繰り返していき、最終的に計画が成功するか失敗するかという未来を見てきたとします。
それを逆算すると、唯一の正しい道、つまり最も確からしい計画が得られるのです。まさに「計画が生成される」わけです。
・・・
強化学習AIが導いた結論までには無数の分岐があります。・・・
・・・ほとんどの場合で、人間の勘よりもAIの示した方策の方がいいことがわかります。・・・
人間が立てると2週間かかる計画をAIはわずか1時間で作成できるため、実際に工事現場などで使われ始めています。・・・
P221
こうしたAIの一連の性質は便利な一方で、私たちの思考に与える影響についても懸念があります。AIが人間の知的活動を代替することによって、人間の脳の一部の機能が退化するリスクがあるでしょう。また、AIに依存することで、私たちの自己決定能力が低下し、自己責任の意識が失われることも考えなくてはならないかもしれません。
・・・
もう一つ懸念事項があるとすれば、AIが持つバイアスや偏見が、私たちの思考に影響を与える可能性があります。AIによって生成された情報に対しては、常に批判的に検討する必要があるでしょう。
AIが持つメリットとリスクの両面を理解し、人間とAIが協力することで、より質の高い意思決定ができるようになるはずです。生成系AIは、私たちが行う思考のプロセスを補完するツールです。・・・
・・・
しかし、注意が必要なこともあります。一つは、人工知能は人間と同様に、前提となる情報が間違っている場合には正しい結論を導くことはできないということ。
もう一つは、今後、大規模言語モデルがさらなるデータを求めた場合、おそらく数年以内にインターネット上には人間が書いた文章よりもAIが生成した文章やAIが生成した画像、AIが生成した動画の方が多くなるはずです。そのとき、学習に使われた文章が真実かどうか、確かめる方法は今のところありません。
実際にやってみるしかないのです。今から心配すべきはむしろこちらでしょう。
P229
・・・人間は何に価値を見出し、何を大切にしていくべきなのでしょうか。
筆者は2016年頃に五反田のゲンロンカフェのイベントに登壇したとき、まさにこの質問を受けました。
それまでは無邪気にAIの可能性について語っていたのですが、その質問をされると答えに詰まってしまいました。なんと答えるべきか、全く思いつかなかったからです。
そのとき自然に口から出てきたのが、「真心と思いやり」でした。
あまりにも自分が発した言葉のような気がしなくて、思わず笑ってしまったのを覚えています。
それから7年ほど経ちました。日を追うごとに、まさに「真心と思いやり」こそが、これからの時代の人間に必要な価値観だという思いが強まっています。
この答えは一見するとできすぎです。優等生的に聞こえてしまうでしょう。しかし筆者は科学に魂を売った人間ですから、エモーショナルな経験からそう言っているのではありません。
まず、そもそも「人間にとって価値ある能力とは何か」という問いから始めましょう。
実はこれは時代によって変化します。
原始時代、狩猟民族だった時代は、「人間にとって価値のある能力」とは「目がいい（視力）」「速く走る（走力）」「獲物を仕留める（腕力）」でした。・・・
・・・
農耕革命と同時に始まったのが知能革命だと言われています。つまり、農耕の始まりは知能に価値の中心が移ったということの始まりでもあるわけです。
知能革命以降は、知能が最も価値ある能力とされ、知能が高い人間が社会を構築し、社会的に高い地位を築いてきました。・・・
・・・
農耕革命が起きるまで、知能が高いことはほとんど役に立ちませんでした。無価値と思われていたかもしれません。
それまで無価値と思われていたものが、ある時点を境に突然価値を持つ可能性があるのです。
・・・
ほんの少し昔は「生き字引」といって、たくさんの事柄を知っている人間が重宝され、知能が高いと考えられていました。また、キーボードが普及する前は、エリートの条件は字が綺麗なことでした。そうしないと知識を共有できないからです。
日本では長らく英語信仰があり、英語を読み書きできるだけで知力が高いと思われることもありました。でも自動翻訳の発達で、その能力は急速に価値を失っています。
さらに現在、「知能活用」の代表格といっていいプログラマーの美徳とされているのはハックーすなわち「表面的なことから本質を見抜き、手間を省く」能力、つまりは「手抜き」の能力です。生成系AIはまさに手抜きのための発明です。
すると、現在のところ人間の美徳とされているけれども、全くお金（お金自体が知能革命の成果です）につながらない能力は何かということを考えたときに、出てくる答えは「真心と思いやり」にしかならないのです。
「真心革命」のようなものがこれから起きるのかどうかはわかりませんが、自動車の発明が走力をほとんど無価値化したのと同じように、AIが学歴や知性そのものを無価値化していきます。筆者のような物書きはまさに知力を売りにして生活してきたので非常に残念な結論ではありますが、これは抗えない時代の流れです。
言い換えると、これからは「どれだけ難しいことを理解してるか」ではなく、「どれだけ相手のことを思いやれるか」に、より大きな価値がある時代が来るでしょう。
そればっかりは生成系AIに聞いても教えてもらえないからです。
・・・
AIは「普通の人」や「普通のエリート」に求められるようなことは、ほぼ全てできます。個性のない仕事は全てAIがやるようになっていくでしょう。
あとは法的な整理がどこまで追いついてくるか。たとえば人間以外の人が弁護士になれるのか、会社の代表になれるのか。そういったことが整理されるまで、人間は一種の人身御供として、AIの後見人として必要とされるはずです。
しかし、それもそんなに長い間は続かないし、そうしたときに人間の価値は相対的に下がっていくように見えるかもしれません。
このような時代に価値を持つ能力とは、これまでどちらかというと無価値と思われていた２つの能力でしょう。
一つは、「人のやらないことをやる」ということ。
・・・
今後、最も価値が高い労働は表現労働であり、これまでのような定型処理を没個性的にこなすという仕事は、どんどん価値が下がっていくでしょう。
もう一つの能力は、繰り返しになりますが、こちらもこれまで教育現場で価値を認められなかった能力です。それは他人を思いやる力。いわば「ホスピタリティ」とでも呼ぶべき能力です。
・・・
・・・テストの成績が高いという能力は、AIの持つ本質的な能力に勝てません。むしろAIが苦手とする、「人のやらないことをやる」「他人の気持ちを思いやる」ことを大切にすることが、これからの時代の人々に求められる能力であると言えるでしょう。
