国家や言語の壁を越えて世論を動かす影響工作
インターネットは、政治目的での影響工作にも使われています。2016年のアメリカ大統領選挙において、ロシアの企業がFacebookやTwitter（現・Ｘ）、YouTubeで多数のアカウントを使い発信を行いました。
Twitterだけで2752件ものアカウントが作られており、そのなかには多くのフォロワーがいる有名なアカウントもありました（＊８）。この手法が広まり、政府や政党、政治家が偽情報を広める企業に影響工作を依頼することが増えています。小規模な地方の選挙にも使われています（＊９）。
フランスを拠点とするNPOのForbidden Storiesによると、生成AIを使った世論工作もはじまっています。
イスラエルの「チーム・ホルヘ」は、ソーシャルメディアのアカウント４万件を使い、顧客のニーズにあった政治介入をしています。キーワードを打つと文章が生成されるので、それをソーシャルメディアに投稿し、政権を攻撃することなどに使っています（＊10）。
プロフィールの顔画像も、生成AIで作れます。生成AIで翻訳して、複数の言語で偽情報を拡散させることも行われており、国家の壁だけでなく言語の壁も乗り越えつつあります。生成AIの高度化により、さらに偽情報が量産され拡散され増幅されるでしょう。
AI生成物であるか否かを判断するソフトウェアのチェックの精度が高まればよいのですが、いまだ精度がよくありません。人が書いたのにAI生成物であるとみなされる偽陽性の確率も高いままです。
なお生成AIを脅威に感じているのは民主主義社会だけではありません。権威主義の国家は、その権威を揺るがすものとして位置づけています。
中国は、生成AIをいち早く使えないようにしました。政府の見解と異なる回答をするケースがあるからです（＊11）。ChatGPTはVPNを介さなければ使えず、中国国内の企業の生成AIのサービスは相次いで中止に追い込まれました。
メディアの専門家ヴィレム・フルッサーは、まったく別の文脈から、私たちは「世界」から遠ざかり遮蔽されてしまっているといいました（＊12）。私は、近頃このフルッサーの指摘をよく思い出します。
技術の可能性だけからみると、コンピュータ・テクノロジーが高度化・ネットワーク化し、遍在化しているわけですから、かつては社会で起きていること、あるいは物理現象や自然現象までが緻密に分析されて、「世界」が透明になっていくと期待することもできました。
けれども実際には、不透明感が増し、霧に包まれた見通しの悪い「世界」が訪れました。本物の画像がフェイクだと指摘され、多くの人にとって偽物と本物との区別がつかないような「世界」が到来しました。私たちは、霧の中で確からしさを手探りで探しながら、決めつけず判断を半ば保留しつつ疑惑のなかで生きていくこととなりました。
本書『生成AI社会』の冒頭では、SF作家のテッド・チャンが書いたエッセイ「ChatGPTはウェブのぼやけたJPEGである」（＊13）について触れています。JPEGを何度も上書きして圧縮すると画像が劣化するのと同様に、生成AIの生成物を再学習すると、どんどん低品質なもので環境が覆い尽くされてしまうかもしれません。「世界」が遠ざかります。
＊８ 平和博（2017）「ソーシャル有名人「ジェナ」はロシアからの〝腹話術〟」『新聞紙学的』（2024年５月31日アクセス）
＊９ 平和博（2021）「フェイクニュース請負産業が急膨張，市長選にも浸透する」『新聞紙学的』（2024年５月31日アクセス）
＊10 平和博（2023）「「世論工作のアバター」４万件とAI生成フェイクを操作、世界の選挙に介入する「影の組織」とは？」『Yahoo!ニュース』（2024年５月31日アクセス）
＊11 読売新聞社（2023）「中国が対話型AIを警戒，「ChatGPT」は使用停止に…政府見解と異なる回答で」『読売新聞オンライン』2023年３月４日（2024年５月31日アクセス）
＊12 フルッサー、ヴィレム（1997）『テクノコードの誕生』(村上淳一訳)、東京大学出版会
＊13 Chiang, T. (2023) “ChatGPT Is a Blurry JPEG of the Web”（accessed 2024-05-31）
