学びなおしのリスク論

2015年6月24日

»著者プロフィール
閉じる

漆原次郎 (うるしはら・じろう)

1975年生まれ。神奈川県出身。出版社で8年にわたり理工書の編集をしたあと、フリーランス記者に。科学誌や経済誌などに、科学技術関連の記事を寄稿。早稲田大学大学院科学技術ジャーナリスト養成プログラム修了。日本科学技術ジャーナリスト会議理事。著書に『原発と次世代エネルギーの未来がわかる本』『日産驚異の会議』『宇宙飛行士になるには』など。

自己複製するには技術と欲望が必要

 人工知能がみずからを少しでも超越する人工知能を生み出せるようになったとき、その能力が急速に爆発して無限大化する。そんな可能性が議論されることがある。

 無限大化した人工知能の能力がなんらかのロジックで「人類を滅亡すべし」と意思決定し、それを実行していくといった暴走的シナリオはありえないのだろうか。

 松尾氏は「そういうことが起きる可能性は非常に低いと思います」と否定する。そしてその理由を、技術的な観点と生命的な観点から説明する。

 まず、技術的な観点。「技術的に見ると、人工知能が人工知能をつくるということをどのようにやるのか。検討もつかないというのがいまの段階です」。

 著書『人工知能は人間を超えるのか』の中で松尾氏は「人工知能をもったロボットが自分を増やそうとしたら」という思考実験をしている。そこで大きな“難関”になるのは、人工知能ロボットたちが工場をつくって自己を再生産する過程だという。材料となる鉄や半導体をロボットがどう入手するのかが見えてこないというわけだ。

 では、もう一つの生命的な観点で、人類滅亡を否定する理由とはどのようなものか。松尾氏の話を聞くと、どうやらこちらのほうがより根源的という気がした。

 「生命には、自己保存や自己複製をしようとする本能や感情や欲望があります。それらがない種は滅亡してきました。生命誕生からおよそ50億年の進化の過程を経て人類がいまに至っているのと同様に、人工知能もそうした進化の過程を経験しなければ、自己保存や自己複製しようとする本能や感情のようなものを得ることはできません」

関連記事

  • PR
  • 新着記事

    »もっと見る