ここで次に浮かび上がるのが、「AIに責任を負わせる」とは、具体的に何を意味するのかという問いである。
人間の場合、責任を問われるということは、多くの場合、罰を受ける可能性と結びついている。悪いことをすれば刑罰が科され、自由が制限される。だが、この構図をそのままAIに当てはめようとすると、すぐに行き詰まる。AIは苦痛を感じない存在であり、人間のように「罰を与える」ことができないのではないか、という疑問が生じるからだ。
この点について出口氏は、罰を「苦痛を与える行為」と捉える発想そのものを見直す必要があると指摘する。現代社会における罰の本質は、あらかじめ認められていた行為の範囲、すなわち権利を制限・剥奪することにある。
この視点に立てば、AIに対する罰も別のかたちで考えることができる。たとえば、あるAIに許可されていた行為を制限する、利用範囲を狭める、作動を停止する──。こうした措置は、AIにとっての「罰」と位置づけることが可能である。
ここで重要になるのが、「権利」という概念だ。ある主体に責任を認めるということは、その主体に、あらかじめ一定の権利や行為の自由が付与されていることを前提としている。責任が問われるとは、その権利が制限・剥奪されうる存在として社会の中に位置づけられるということでもある。
出口氏は、この点から、責任・権利・罰（より正確には受罰可能性）の三つを切り離して考えることはできないとする。責任とは、行為の結果について問われる可能性であり、罰とは、その結果として権利が制限・剥奪される可能性である。そして権利とは、そうした制限が起こる以前に、社会の中で事前に与えられている行為の範囲を指す。この三つは、相互に結びついた関係として理解されるべきだという。
出口氏の議論は、AIに責任を負わせることが「不可能ではない」ことを示している。しかしそれは、机上の理論として完結する話ではない。責任や権利、罰のあり方をどのように設計するのか。それを誰が定め、どのように社会の中で共有していくのかという問題は、最終的に社会全体の課題になってくる。
倫理は「社会全体」で育てていくもの
AIに対する権利や責任を最終的に明文化する主体は、国家などの公的機関である。しかし出口氏は、制度や法律が先にあるのではなく、それを要請する社会の動きこそが重要だと考える。倫理やルールは、上から与えられるものではなく、使う側も含めた社会全体の試行錯誤の中で形成されていく。
AIを利用する一人ひとりもまた、この問題の当事者である。どのような使い方が望ましく、どこに違和感を覚えるのか。そうした感覚の積み重ねが、やがて制度やルールの土台となる。出口氏の議論は、AIの責任を「誰に押しつけるか」という問いから、「社会としてどう向き合うか」という問いへと視点を移す。
出口氏が著書などで提示してきた「WEターン」という考え方も、ここで補助線として効いてくる。行為や責任の主体を個人としての「私」ではなく、「われわれ」として捉え直す視点である。AIエージェントを含む複数の要素が関与する行為において、責任を個人だけに閉じるのではなく、社会全体の関係性として考える必要がある。
AIエージェントの登場は、私たちに新しい技術への対応を迫るだけでなく、人間社会が培ってきた倫理や責任のあり方そのものを問い直している。自律性を恐れて止めるのではなく、自律性と共に生きるためのエコシステムをどう築くのか。その問いへの向き合い方こそが、AI時代における人間の成熟度を映し出す。
