声の周波数や強さ、音色、時間的な変化といった音響的特徴だけを取り出して自動生成し、本人の存在感だけをまとわせて良いのか。音声を生成する技術が登場しても、その声と人との結びつきまで消えるわけではない。声の商業的な利用について、本人の利益を保護する道を示した一歩は大きい。
しかし倫理的な問題は、商業的価値の保護だけで尽くされない。多くの客を呼べる声だから守られるという論理だけでは、有名ではない人の声をめぐる問題を十分に捉えられないからだ。
著名人だけではない「声の権利」
人の声を尊重する理由を、訓練の成果や優れた表現能力だけに求めるべきではない。筆者の著書『生成AI社会』（ウェッジ）で述べた「ラディカル・クリエイティビティ」は、生き物が自らを作り、変化し続ける根源的な創造性を指す。
この創造性は、作品の数や売上によって測れるものではなく、すべての人に備わっている。この視点に立てば、声をめぐる倫理も、知名度や経済的価値にかかわらず、一人ひとりの生に根ざしたものにしていく必要がある。
例えば、一般の会社員の声が合成され、本人が同僚を侮辱したかのような音声が広まったとする。声に市場価値があるかどうかにかかわらず、本人の人間関係は傷つき得る。
家族に向けた偽の音声で、金銭の送付を求められることも考えられる。今回の判決を手がかりに、著名人以外の尊厳や生活も含めて捉えなければならない。
『生成AI社会』（ウェッジ）では、「倫理的創造性」を提示した。先に述べたラディカル・クリエイティビティを土台に、自らを作りながら、自分以外のモノやコトをも作るのが、ダブル・クリエイティビティである。
この二重の創造性を、他者の固有性や創造性を尊重する方向へと働かせ、技術や社会を形づくっていくのが倫理的創造性である。人は、機械とは違い、ダブル・クリエイティビティがあるがゆえに、技術や社会を倫理的に形づくる責任を担う。その実践を通じて、一人ひとりの固有性や創造性が尊重される条件を整え、さらに人々の創造的な営みを支えていくという循環が重要になる。
では、私たちは、どのようにして倫理的創造性を発揮して、生成AI社会の声のあり方をデザインしていけるだろうか。
どう権利を保護していくか
当然のことながら、声を録音・公開することへの同意と、その声を使って新たな発言を生成することへの同意を区別する必要がある。ある作品の収録に限らず、会議の録音やSNSに投稿した動画も、声の素材になり得る。
そこに声を残したことを、将来にわたり別の発言を生成することへの包括的な了承とみなすべきではない。何のために学習・生成し、どこで、いつまで利用するのかを明らかにし、用途が変われば同意を確かめ直す必要がある。
とりわけ、自分の声で何を語らせるかは、報酬だけでは割り切れない。支持していない政治的主張や、薦める意思のない商品の宣伝に使われることもあり得る。
