前回はFacebookのデータ不正流用問題を論じた。問題の発端となったデータ分析企業のケンブリッジアナリティカは廃業を決定し、Facebookも公聴会後に様々な対策に取り組むと述べている。とはいえ、今後もFacebookやSNSに向けられるまなざしは、今以上に厳しくなるだろうことが予想される。
本連載ではアルゴリズムやロボット、スマートスピーカーといった技術が社会にもたらす問題を議論してきたが、今回は昨今話題の「フェイク」に関する動画や音声が、ポルノを題材とすることで深刻さを増している点について考えたい。またフェイク動画の普及が、すべての証拠の「真偽」に関わる困難についても考察を深めたい。
ポルノ動画に進出した「フェイク」の波
一昔前はヌード写真の顔だけを有名人のものと取り替える「アイコラ(アイドルコラージュ）」が問題化されたが、2017年末、アメリカの掲示板サイト「レディット」に衝撃的な動画が投稿された。それはポルノ動画の顔部分を有名人のものに差し替えた「フェイクポルノ」動画であり、技術的にもレベルが高く、一見するとフェイクかどうかがわからないものであった。故にフェイクポルノは社会的にも、アイコラのそれを遥かに凌ぐレベルの影響力を有してしまっている。
事態はさらに悪化する。フェイクポルノ動画の投稿後、その動画を参考にした別のユーザーが、フェイクポルノ動画を簡単に作成できるアプリを公開したことで、一般ユーザーによるフェイクポルノ作成を可能にしてしまったのである。
フェイクポルノ動画やアプリ作成においては、Googleがオープンソース（誰でも利用可能な形）で公開している「TensorFlow（テンソルフロー）」という機械学習に関するソフトウェアが用いられている。近年の人工知能を用いた顔認識技術の発展は著しく、日常でも顔の一部を強調したり、友達と顔部分を入れ替えるアプリなどが若者を中心に流行しているが、テンソルフローは画像認識等の技術に用いられることも多いソフトウェアだ。フェイクポルノ動画はこうした技術を悪用する形で登場したのである。
その結果、アダルト動画サイトには大量のフェイクポルノ動画が拡散されて問題となっている。さらに問題を深刻化させているのが、フェイクポルノ動画の顔が有名人に限定されない、という点だ。昨今はInstagramなどに自撮り写真を大量に投稿することが一般化したが、実際に掲示板サイトのレディットにおいて、知り合いの写真を利用してフェイクポルノを作成したと報告した輩も確認されている（事件の経緯に関する詳細は、筆者が別媒体で論じているので参照されたい）。
