つまり、人工知能が人工知能を生み出すためには、「自分を複製したい」という欲望が必要であり、その欲望を人工知能が得るには私たち生命が経験した進化と同様の過程を踏まなければならないということのようだ。
けれども、ここで疑問が生じる。もし、長い年月をかけて人類が得てきた全経験の情報を人工知能にあたえることができたら、わざわざ人工知能は長い進化の過程を経なくても、「自分を複製したい」という欲望をもてるようになるのではないか。
「表面的にはそうだと思います。けれども、そうしてできた人工知能はとても弱いものだと思います。人間には性格のちがいや、薬の効く効かない、背の高さのちがいなどの多様性があります。人類が得てきたすべての経験の情報を単にコピーしただけの人工知能は、すこし環境が変わるだけで簡単に全滅してしまいます」と松尾氏は答える。
“人間の模倣”も根本レベルから必要
自己複製や情報コピーという手段では、人類を滅亡させるような人工知能は存在しえないというのが松尾氏の考えのようだ。では、人工知能をもったロボットに、人間の行動を模倣させたらどうなるだろうか。人間には善良な者から凶悪な者までいる。凶悪なテロリストを人工知能ロボットが模倣したら、すぐに人類を殺戮しにかかるのではないか。
「仮に、人間の体や頭脳を分子レベルで模倣できるとすれば、それはありうると思います。けれども、人工知能やロボットの形で、工学的に人間の行動を模倣するのであれば、やはり本能や感情を入れなければなりません。人間の行動を模倣するためには、ベースとなる感情や感覚もまた人間のそれと一緒であることが必要だと思います。そのベースがない、あるいは人間と異なるという場合、人工知能はどこまで人間を模倣できるか。私はむずかしいと思います」
人工知能がみずからを少しでも超越する人工知能をつくるには、「そうしたい」あるいは「そうしなければならない」という欲をもつ必要があり、長い進化の歴史を通じて獲得しなければならない。それがとてつもなく実現困難なことだから、人類を滅亡するというシナリオはまずもってありえない――。松尾氏はそう考えていると理解した。
松尾氏に「種の保存をしたいという本能をもっているかどうかが、人間と人工知能の唯一にして最大のちがいなのか」と質すと、「そう思います。唯一といってもよいのではないでしょうか」と答えた。
