人工知能に、人の真似をさせるのは間違っている

ライフネット生命会長・出口治明さんが「歴史」や「教養」をテーマに、さまざまな有識者をゲストに迎える対談企画「出口さんの学び舎」。技術革新やグローバル化により変化の激しい現代で、ぶれない軸を持って生きていくために必要なものとは何か、対話を通じ伝えていく――。

人工知能の価値と人間の価値は違います

出口：今日は池谷先生に伺いたいことが山ほどあるんです。まず、AI（人工知能）について。シンギュラリティ（注：人工知能が人間の能力を超えることで起きる出来事）などいろいろなことが言われていますが、ご専門の立場から見るとどうなりそうですか。

池谷：私は脳の研究もやっているし、AIもやっているのですが、どっちの様子もうかがえて、楽しいんです。シンギュラリティについてはよく考えますが、科学的にみて怪しいですね。

出口：ああよかった。僕も怪しいと思っていたので。

池谷：人工知能学会に出席しても、そこにいる人が誰も信じていない雰囲気があります。いや、口にするのさえ恥ずかしい感じです。もちろん未来のことはわかりませんから、万が一ということはあるかもしれませんが、仮にシンギュラリティが起こったとしても「価値がない」というのが私の考え。

出口：それはどういう意味ですか？

池谷：ひと言で言うと、人工知能の価値と人間の価値は違う。人工知能が人のルールを離れて勝手に成長すると、たぶん人間社会に無価値な、意味のないものになると思うんです。人の手を離れると、そういう進歩しかできないと思います。

出口：なるほど、なるほど。

池谷：現時点でも、囲碁なんかは人工知能のほうが強いですよね。かといって、ディープラーニングのプログラマー本人ですら、囲碁がなぜこれほど強いのかは、わからないんです。確かにAIは相当強いのですが、「ここ、ちょっと直したいな」というところがあったとしても、ちょっと手を加えると能力が下がってしまうらしいんですよ。つまり、人間は手出しできないレベルのところまでいってるんですね。

出口：「人工知能の囲碁は今の10倍くらい強くなるかもしれないけれど、それと対戦しても人間にとって面白くないから無価値だ」ということですか？

池谷：はい、そういう意味もあります。でも、実は別の方向で考えています。人間がコンピュータをいじったら、その性能が下がってしまう。ということは、コンピュータから見ると、人間は現時点ですでにコンピュータウイルスなんですよ。

出口：ああ、なるほど。

池谷：だって、そうですよね。「コンピュータの性能を下げてしまう外部因子」をコンピュータウイルスと呼ぶんですから、人間はすでにコンピュータウイルスなんです（笑）。つまり、人工知能が修理できるのは、人工知能だけなんですね。

出口：そうですよね。

池谷：囲碁以外に広げてみると、こんなことがあります。著作権フリーの曲を自由にダウンロードして、人工知能に作曲させるサイトがあるのですが、案外いい曲を作るんです。

出口：へえ～、そうなんですか。

池谷：僕はそれを聞いて、「いい曲とは何か」と考えちゃいました。たぶん人間にとって「いい曲だな、これは」っていうパターンがある。メロディーラインやコード進行や、ある特定のパターンを持ったときに、人の脳はそれを美しい曲と感じるらしい。人工知能はそれに則って、機械的に音を置いただけです。でも、人工知能から見ればこういう言い方もできるんです。ちょっと挑発的ですが、「音楽はものすごく奥が深くて、複雑なパターンや組み合わせやコンビネーションがある。ところが人の脳は恐ろしく了見が狭くて、特定パターンしか気持ちいいと感じないらしい。だからその通りに作曲してるだけだよ。これで予想通りに人は喜ぶんだから、単純だね」って。

出口：なるほど。

池谷：人の手を離れ、タガが外れた状態で人工知能だけで音楽をきわめていったら、たぶんそれは人にとって美しくないものになっちゃう。

出口：人間にとって音楽とは感じられないものになるんですね。

池谷：人工知能にとっては「こっちの曲のほうがすごいでしょ。人は芸術を理解できないんだなあ」となるかもしれませんが、人間にとっては無価値ですよね。だから、社会の新しい法律などを、人工知能のルールでやっても、僕らにはまったく意味がないと思うんです。シンギュラリティとはそういうことです。

出口：なるほど、すごくよくわかりました。