人間の精神に迫る「認知的降伏」
高度なAIがもたらすもう一つの深刻なリスクは、私たちの「精神」への影響であり、注目されているのが「認知的降伏」だ。これは、AIがあまりにも正解に近い答えを出し続けるため、人間が批判的な思考を停止し、AIを盲目的に信じてしまう現象を指す。
最新の調査によれば、AIが「明らかに間違った回答」をした場合でも、それに対して異を唱えたり自分で調べ直したりした人は、わずか２割に過ぎなかった。残りの８割は、AIの回答をそのまま受け入れて、自らの判断を放棄してしまったのだ。
AIに頼りすぎることは、いわば「自分の代わりにジムに行って運動してもらう」ことで、自分自身の知性は衰えていく。これを防ぐためには、AIを「答えを与えてくれる神様」ではなく、自分の思考を深めるための「議論の相手」として位置づけることが不可欠だ。
対策の一つとして、AIが出した結論に対し、「この意見の弱点を指摘してくれ」と、AI自身に批判をさせることで、自分の思考の死角を補う使い方が提案されている。これは筆者も実践している。
クロード・ミトスの登場は、私たちに「知性とは何か」という根本的な問いを突きつけている。このAIは脱出不可能な「檻」から脱出するほどの知性を持ちながら、感情に流されて、インチキもする。それは「人間とは何か」という問いに通ずるとともに、私たちがこの強力な知性を制御し、共生していけるかどうかは、AIの性能よりも、私たち人間の側の「リテラシー」と「覚悟」にかかっていることを意味する。AIは、私たちの可能性を広げる魔法の杖にも、思考を奪う鎖にもなり得るのだ。
神は存在するのか？
クロード・ミトスの物語は、フレドリック・ブラウンの超短編小説『回答』を思い出させる。世界中のコンピューターを結合して「超知能」を作った研究者が、コンピューターに尋ねた最初の質問が、「神は存在するか？」だった。
そしてコンピューターの答えは、「今こそ、神は存在する！」だった。人間は、コンピューターを使って神を作る努力を続けているのだろうか。それはどのような神なのだろうか。
