中国専門のオーストラリア人記者のジョン・ガルノーが、中国のAIの安全性の概念は中国共産党の利益の保護が最優先され、AIのリスク管理に関する米中協力は極めて困難となるとの論説を2026年９月24日付ニューヨーク・タイムズ に投稿している。
中国でトップレベルのAI企業Z.ai 社の共同創業者の唐杰(Tang Jie)は７月、AIにユートピア的期待を抱く一方、「徹底的な安全ガバナンス」の必要性を主張した。が、唐氏の語るAIの安全性とは、中国共産党の安泰と結びつく。
安全対策とは、中国の国内法、国家戦略、安全保障上の懸念等、中国共産党の政治的利益を行動原理としてAIの基本的なDNAに書き込むことだ。さらに８月、同氏は中国のAI業界に対しイデオロギー的な適合を義務付ける法整備を支持するとした。
欧米の議論では、AIの社会的危険性に焦点を当てるが、中国の懸念は異なる。中国のAIは、国家による検閲手段として、政治的に敏感な情報を選別し削除し、さらに共産党の正統な思想を AIの深部に組み込もうとし、これはAIがもたらす価値観に広範な影響を及ぼす可能性がある。
AIに関する意見の相違を認識することは、９月24日に開催される米中首脳会談の期待値を設定する上で重要だ。AIのリスクを如何に軽減するかが協議されるというが、AIの安全について双方において完全にずれた議論が行われている両国間で有意義な協力関係を築くことは困難だろう。
中国のAIが世界的に採用されるにつれてそうした価値観もAIと共に広まり中国共産党の価値を世界に静かに伝播させて行く恐れがある。習近平は上海で「世界人工知能大会」を開催し、中国が重視するのは「発展と安全保障」であり、「AIを安全かつ信頼でき、制御可能なものとする」と述べた。
ここでいう「安全保障」とは中国の政治的安全を意味している。他方、シリコンバレーの先駆者たちはリベラルな民主主義の中で成長し、Anthropic社の最高経営責任者（CEO）アモデイは、論文で、AIによる破滅的な事態を招きかねないリスクを管理するために、そのモデル自身に安全原則を組み込むこととしているが、その価値観は「世界人権宣言」を基盤とし、情報へのアクセス、法の支配、政治的自由といった要素を重視している。
８月にZ.ai社は、Anthropic社の強力なサイバーセキュリティ・モデルに匹敵する能力を持ちつつも安価で利用し易く、中国で最強ともいえる「オープンウェイト」のサイバー防衛ツールをリリースした。ユーザーは、これを改変してカスタマイズすることが可能だが、モデルの深部に組み込まれた行動特性を取り除くことは困難かもしれない。
