自己複製するには技術と欲望が必要
人工知能がみずからを少しでも超越する人工知能を生み出せるようになったとき、その能力が急速に爆発して無限大化する。そんな可能性が議論されることがある。
無限大化した人工知能の能力がなんらかのロジックで「人類を滅亡すべし」と意思決定し、それを実行していくといった暴走的シナリオはありえないのだろうか。
松尾氏は「そういうことが起きる可能性は非常に低いと思います」と否定する。そしてその理由を、技術的な観点と生命的な観点から説明する。
まず、技術的な観点。「技術的に見ると、人工知能が人工知能をつくるということをどのようにやるのか。検討もつかないというのがいまの段階です」。
著書『人工知能は人間を超えるのか』の中で松尾氏は「人工知能をもったロボットが自分を増やそうとしたら」という思考実験をしている。そこで大きな“難関”になるのは、人工知能ロボットたちが工場をつくって自己を再生産する過程だという。材料となる鉄や半導体をロボットがどう入手するのかが見えてこないというわけだ。
では、もう一つの生命的な観点で、人類滅亡を否定する理由とはどのようなものか。松尾氏の話を聞くと、どうやらこちらのほうがより根源的という気がした。
「生命には、自己保存や自己複製をしようとする本能や感情や欲望があります。それらがない種は滅亡してきました。生命誕生からおよそ50億年の進化の過程を経て人類がいまに至っているのと同様に、人工知能もそうした進化の過程を経験しなければ、自己保存や自己複製しようとする本能や感情のようなものを得ることはできません」
