AI技術の著しい進歩により、最近アメリカで本物そっくりの偽ビデオやオーディオが次々に登場、深刻な問題となりつつある。今後その精度がさらに一段と向上するにつれて、政治目的などに悪用され社会混乱の原因にもなりかねず、米議会でも被害を最小限に食い止めるための法案措置の動きまで出始めている。
問題となってきたAI技術は「ディープ・フェイク(deep fake)」と呼ばれ、AIが可能にした「ディープラーニング」と「フェイク」をミックスした新造語。真偽をただちにチェックし注意を喚起できる従来の「フェイク・ニュース」などとは異なり、本物との区別がほとんど不可能なほど巧妙に造られている点に特徴がある。
その最たるものが、いわゆる「ディープ・フェイク」ビデオの存在だ。ある人物の顔の形、しわ、目鼻、まゆ、唇の動きなどをコンピューター・グラフィックで微細にわたるまでスキャン、そのデータを別の人物の顔にかぶせ、異なる部分を入念に修正した上で再現する。顔つき、表情のみならず、発声、発音もオーディオ・データのコンピューター分析によって細かく記録、それを唇の動きに合わせて再生させるため、素人目には容易に本人と間違いやすくなる。
その一例として、アメリカで大きな話題として取り上げられたのは、昨年4月公開された、オバマ大統領があたかも実際に演説しているかのように見せかけたビデオ作品だった。
新興ネット・メディアとして最近躍進著しい「BuzzFeed」がワシントン州立大学コンピューター・サイエンス技術チームの協力を得てハリウッドの映画製作会社と共同で作り上げたもので、とくにこの作品の中で“オバマ氏”がトランプ大統領のことを「とんでもない間抜け(complete dipshit)」とののしっている部分があり、またたくまにフェイスブックなどを通じて全米に画像が広がり話題騒然となった。
もちろん、現実に前大統領が現職大統領をこのような下品な言葉でけなすことなどありえず、これを製作、公表した「BuzzFeed」最高経営者も、作品が最初から贋作であることを断っているとした上で「今後、AI技術が超スピードで一層発達し、この種のdeep fake videoが出回ることによって社会混乱が起こりうることを警告したかった」と、その意図について語っている。
今後、こうした「ディープ・フェイク・ビデオ」が悪用されかねないケースとして米メディアで指摘されているのが、わいせつなポルノ・ビデオの主人公として本物に見せかけた有名人や特定の政治家などを登場させ、品位を貶める、敵対国の選挙に介入し“好ましからざる候補”の偽造演説ビデオを流布するなど、SNSを駆使したかく乱工作だ。さらには、最悪のシナリオの一例として、“トランプ大統領”が「中国を標的にした核ミサイル発射の最終決定を下した」とする「重要演説」動画をSNSで流すといったケースまで議論に上がっている。
すでに実際に、ハリウッド女優界を代表するグラマー美女として知られるスカーレット・ヨハンソンさんの顔がポルノ・ビデオのセックス・シーンの女性にはめこまれるといった被害が報告されているほか、ヨハンソンさん以外でも、本人のまったく知らないところで、別人が演じるわいせつビデオに登場させられていた何件もの類似ケースが出没しているという。
こうしたディープ・フェイク・ビデオの恐怖は、たんなるうわさや偽宣伝チラシ、各種アングラ情報紙(誌)などとは異なり、視覚と聴覚に訴えることによってバーチャル・リアリティの動画を受け手にアピール、信じ込ませることができるだけでなく、それを瞬時に時空を超えて世界中に拡散できる点にある。場合によっては近い将来、国と国の戦争を引き起こし、一方の国の戦況を有利な方向に誘導するといった要因にさえなりうる、と指摘する専門家もいる。
このため米議会では、「オバマ演説」ビデオで物議をかもした昨年以来、その潜在的脅威と対策について真剣な議論が戦わされてきた。
最初に問題提起して注目を集めたのが、下院情報特別委員会のアダム・シフ議員ら3人の民主党有力議員だった。シフ議員らは昨年9月13日、本会議で、「ディープ・フェイク・ビデオは個人の信用を失墜させ、脅迫の材料として悪用されるだけでなく、(ロシアなど)外国敵対勢力が悪用し、わが国の国家安全保障上の脅威にもなりうる」と重大警告するとともに、ダニエル・コーツ国家情報長官に対し、とくに外国情報機関が展開しようとしている欺瞞工作の実態と対策について、調査報告の議会提出を求めた特別書簡を送ったことを明らかにした。
入手した書簡コピーによると、「ディープ・フェイク技術の恐るべき性能と迅速な進歩が今後わが国にもたらしうる甚大な影響にかんがみ、世界各国におけるその現状と将来的影響について把握しておく必要がある」と指摘、具体的に
- 諸外国政府、その国家情報機関および工作員がディープ・フェイク技術を駆使してどのように具体的にわが国国家安全保障上の利益に影響をあたえうるかについての評価。
- すでに現在にいたるまで、外国政府および工作員が実際にその技術をわが国に対してどのように行使したかの詳細記述。
- わが政府あるいは民間企業がディープ・フェイク使用の早期発見または未然防止のために取りうる技術的対抗措置の説明。
- ディープ・フェイクの脅威に対処するために今後、米国各情報機関が取り組むべき、予算措置も含めた努力目標に触れた議会宛て勧告―など7項目について言及した報告書を提出するよう求めた。
さらに今年に入り上院でも、マルコ・ルビオ議員(共和)ら情報特別委員会有力メンバーらも、この問題についてあいついで警告を発してきた。
ルビオ議員は先月、米議会のネット・メディア「The Hill」とのインタビューで「わが国の敵対国(複数)はすでにアメリカ国内に対立要因となるような材料をばらまくためにフェイク画像を使用し始めている。
