『生成AI社会 無秩序な創造性から倫理的創造性へ』(著・河島茂生)が「2026年度青山学院学術賞」を受賞!これを記念し、書籍の冒頭部分を無料公開します。
*本記事は、『生成AI社会 無秩序な創造性から倫理的創造性へ』(ウェッジ)から一部抜粋・編集して掲載しています。
ブームとなった生成AIは、さまざまな問題を抱えています。著名なAI倫理の研究者がいろいろな問題を指摘した論文(Bender et al. 2021)を出そうとしたところ、勤務先から解雇されてしまいました。2020年末のことです。しかし、その論文で指摘された問題はいまだ解消されていません。
生成AIは大規模なAIであり、膨大な電力が必要で二酸化炭素を大量に排出します。また支配的な立場にいるマジョリティの発言を多く学習しており、偏りがあるため、マイノリティの人たちにとってよくない結果をもたらしかねません。
意味や意図を理解していないにもかかわらず、AIの学習に使ったテキストデータの確率論的分布にもとづいてテキストを新しく自動生成するのは、まるで「確率的オウム」(Bender et al. 2021)のようですが、私たちは、あたかもAIが意味を理解しているかのように錯覚してしまいます。
生成AIは何を作り出しているのか?
SF作家のテッド・チャンは 「ChatGPTはウェブのぼやけたJPEGである」(Chiang 2023)といいました。JPEGは、よく知られているデジタル画像のフォーマットです。画像の非可逆圧縮であり、人の目では認知しにくい部分のデータを削ったりすることで、見た目はほぼ変わらないままファイルのサイズを劇的に減らすことができます。
非可逆圧縮は、その名の通り、そのファイルから元のデータを完全に復元することはできないという欠点も抱えていますが、可逆圧縮ではファイルサイズがわずかにしか減らないため、人がおかしく感じなければ非可逆圧縮のほうが使いやすいことが多くあります。
ChatGPTなどの生成AIもJPEGのように圧縮をかけます。元のデータそのままをデータベースに入れるのではなく、元のデータの本質的な特徴を統計的につかむようにしながら次元の数を減らしデータ量を少なくします。そのうえで回答するときは、少なくなった次元の変数(損失ありの圧縮されたデータ)から元のデータに近いものを再構成して作り上げるのです。
JPEGも表示するときに、失われたピクセルのデータを隣接するピクセルから補間してなめらかな画像にしていきます。それと同様に、ChatGPTも、失われたデータを自動的に補間してなめらかな回答を作り上げます。その補間の過程で、ありもしない店や資料をでっちあげてしまうのです。
この確率的オウム、もしくはぼやけたJPEGには、いったいどのような創造性があるでしょうか。未来を作ることができるでしょうか。倫理的な創造性を発揮することができるでしょうか。私たちは、確率的オウムをうまく飼いならすことができるでしょうか。JPEGを何度も再圧縮すると画質が劣化するように、劣化したものを次々と生成しつづけてしまうのでしょうか。
これからは、「倫理的創造性」 が欠かせません。私たちは、便利さや効率性、経済的利益につながるかといった観点からテクノロジーを考えがちです。けれども倫理的観点からテクノロジーを考えていくことはとても大切です。つまり、テクノロジーそれ自体やそれを開発・運営・利用する社会に倫理を埋め込み、わずかでも社会を正しく・よくしていくということです。そうでなくては、便利さや効率性、経済的論理に押されて倫理がなおざりにされてしまうでしょう。

