フェイクポルノは男女を問わず重大な人権侵害行為である。自分が行ってもいない性的な動画を他者に作成され閲覧されてしまうことは、仮にフェイクであると閲覧者が理解していたとしても、心に大きな傷をもたらすことは想像に難くない。またリベンジポルノ目的で、自分の顔が利用されたフェイクポルノがネットに拡散されてしまう可能性も考えられる。
もちろん、こうした事態に対する対策も進んでいる。ポルノサイトや画像共有サイトなどでは、ユーザーからの報告だけでなく、人工知能を用いて動画が本物かどうかを判別するシステムを導入し、フェイクポルノだと判断されるとすぐに削除される。技術的には、投稿された動画と同じ動画をネットから探し出し、顔の部分などに変更がないかを調べ、変更があればフェイクであると認識する、というものがある。この技術を用いれば、顔以外のフェイクも判別できる。だがすべてに対処できるわけではなく、またネットに投稿されていない個人撮影動画を利用されたとなれば、人工知能には判別がつかなくなる。今後も対策は進むことが予測されるものの、フェイクニュースと同じく、根本的な解決は困難であると言わざるを得ない。
フェイク技術の発展はここまできている
今回の騒動以前にも、フェイク動画を作成可能にする技術はいくつか発表されており、以下いくつか紹介したい。ただしこれらは学術的なものであったり、フェイク動画作成以外の目的があることを予め断っておきたい。
まずは2016年に発表された「Face2Face」と呼ばれる技術がある。人が話している動画を2つ用意して人工知能に学習させると、動画から口元の動きだけを合わせることが可能となる。研究発表の動画では、ジョージ・W・ブッシュ元大統領の口元が、もうひとつの動画に登場する男性の口元の動きと一致していた。つまりブッシュ元大統領の口の部分を、それも驚くほど自然な動きに改変することに成功したのである。
また2017年にワシントン大学の研究チームは、オバマ元大統領のスピーチ動画を人工知能に学習させることで、スピーチ音声にあわせてオバマ元大統領の口元を意図的に改変させることに成功している。すなわち音声さえあれば、例えば私的な場所で述べた事柄を、公的な場で語ったようにみせかける動画の作成が可能になる。
さらに、音声に関しても合成音声技術が発達している。例えば中国のGoogleと呼ばれるBaiduは、たった10個の音声サンプルから合成音声を作成する技術を公開している。さらにBaiduは10〜100個のサンプルから合成した音声をネット上に公開しているが、これらの音声は音声認識システムを95％の確率で欺くことができたという。筆者が音声をきいた限り人間を騙すレベルかどうかには疑問があるものの、技術発展のスピードを考慮すれば時間の問題であろう。もちろん合成音声技術もまた、声を失った人に以前の声をもたらす、といった利用が目指されている。また声優やアナウンサーの声を学習させた合成音声サービスなども、実際に日本で開発が進められている。
とはいえ、本稿が指摘している「フェイク」を念頭に置けば、フェイク動画にフェイク音声が重なり合ってしまえば、すべてがフェイクで塗り固められた悪質な動画が、性的嫌がらせ目的であれ政治的混乱を目的にしたものであれ、容易に作成可能になってしまうことが問題なのである。
