どのような技術が「革新」的なのか
何が「高品質」な偽情報・プロパガンダを可能にしているのか。
ChatGPTが注目を浴びている理由の一つは会話・対話の自然さ、それを可能にする高度な意味・文脈理解である。われわれが日常的なコミュニケーション（会話、メール、チャット等）で用いる「自然言語」は、コンピューターへの指示・フィードバックに用いられる「プログラミング言語」とは比べものにならない程、曖昧性、多義性、文脈依存性を帯びるため、従来の機械学習・深層学習をもってしても、自然言語の処理・生成は困難であった。
この状況を打開したのが近年の複数のAI関連技術であり、特に重要とされるのは深層学習の一種である「Transformer」技術だ。専門家によれば、従来主流であった回帰型ニューラルネットワーク（RNN）は一つ一つ単語を逐次処理するものだが、Transformerは複数の単語同時並列処理が可能だ。
結果、今日の生成AIは高速・効率的な計算を通じて、高精度の文章を生成することができる。そしてTransformerの性能は、①モデルのサイズ（パラメータ数）、②学習データのサイズ、③計算量の3つの変数に従い向上する。
それゆえ、テック企業は数千億のパラメーターを持つような大規模LLMの開発競争に投資している。特にブレイクスルーだったのはChatGPT（初期LLMは「GPT-3.5」）の前身のLLM「GPT-3」といわれる。
20年5月に発表されたGPT-3は16～19年のインターネット上の文章を言語問わず収集し（45TB）、厳選した「言語全集」（570GB）を作成した上で、1750億個のパラメーターで自然言語を処理・生成する。LLMの大規模化は進み、現在の有料版ChatGPT PlusのLLM「GPT-4」のパラメーター数は公開されていないものの、100兆個との推計さえある。
この他にもLaMDA（Google）、PaLM2（Google）、LLaMA（Meta）といったLLMが次々と発表されている。ただし、前述の通りLLMの大規模化は競争の主軸ではなくなりつつあるかもしれない。
生成AIがもたらす影響工作の変化
過去、AI分野ではいくつものブレイクスルーがあった。17年以降の深層学習の発展、敵対的生成ネットワーク（GAN）、ディープフェイク等だ。しかし、今日の生成AIは過去のAI関連イノベーションとは異なるインパクトを影響工作分野にもたらす可能性が高い。この約半年間の生成AIの爆発的な利用拡大や日本への示唆をふまえて、筆者が重要だとみる変化は特に以下の3点だ。
第一に、日本語による高度な影響工作の増加だ。これまでおよび現在の外国による日本語の影響工作は文章や文法が不自然なものが少なくなく、直感的に識別できた。既に翻訳に特化したAIサービスは存在していたが、生成AIによる自然言語の処理と生成（翻訳を含む）は、人間によるそれと遜色ない。影響工作の「日本語の壁」は消失したとみるべきだ。
第二に、極めて低コストで高品質な偽情報やプロパガンダを生成できる点である。これは金銭的コストもさることながら、「ノーコード」で利用可能という点が大きい。確かに、期待通りのコンテンツを生成するためにはプロンプトには一定のスキルやコツを要するものの、言語能力そのものやタイピング能力があれば小学生でも利用可能だ。冒頭で述べたChatGPTの爆発的利用拡大の一因にはノーコードによるアクセス障壁の低さもあるだろう。
これはデジタル影響工作のプレイヤー（とその影響力）を変える可能性が高い。ノーコードの生成AIはデジタル影響工作への参加者の裾野を拡大する。二国間関係や地政学的緊張から「愛国者」は単に罵詈雑言を書き込み、たどたどしい外国語をコピー・アンド・ペーストで投稿するのではなく、より気の利いたコンテンツを対象国言語で生成できる。
また、人々の注目や関心を集めて収益を得る「アテンションエコノミー」とそのプレイヤーは生成AIサービスの恩恵を受けるだろう。広告、プレスリリース配信、ニュース配信、コンテンツファーム（ビュー数の最大化のみを目的とした低品質なコンテンツ提供者）といったビジネスはこれまで影響工作に悪用されてきたが、そうしたプレイヤーの重要性は増すと考えられる。
第三に、特定の集団や個人により特化したコンテンツ生成が可能なため、デジタル影響工作の戦術やアプローチの効果を向上させるだろう。自然言語生成AIは同じ内容であっても、記述のスタイルを変えることができる。政治的右派もしくは左派に心地の良い文章を書くこともできるし、政治家の演説から小説家のエッセイのスタイルまで真似ることができる。
