米国やその同盟国の研究者達は、既に「スリーパー・エージェント」(AIモデルに埋め込まれる悪意ある隠し命令)がもたらす潜在的脅威について懸念を強め、このような危険性は、より新しい「自律的な」AIによってさらに増大している。
こうした状況は、米中両国がAIを巡って共通の基盤を見出す必要性を浮き彫りにするとともに、それがどれほど困難であるかも示している。米国に対する優位を目指し体制の安全保障を最優先する中国共産党の執念は、AIがもたらす壊滅的なリスクについて合意に至る余地をほとんど残していない。
トランプは、AIの危険性よりも戦略的な競争の方を重視しているようで、規制の必要性を否定している。トランプの自由市場志向の姿勢は、現在形成中のより大きな競争を見落としている。
AIをめぐる競争は、もはや技術的優位だけのものではない。それは、社会がどのように考え、決定し、権力を行使するかを形作ることになる強力なシステムに、自由、安全保障、国家の役割について、どの国の考え方が組み込まれていくのかをめぐる競争でもあるのだ。
* * *
表面的な対話であった米中首脳会談
９月24日の米中首脳会談では、AI 開発に伴うリスクに関する対話が深まることを期待する向きもあったが、極めて乏しい成果に終わったようだ。トランプがAIではなく SI(スーパー・インテリジェンス)と呼称を変えたことを成果としている他は、SIに関するリスクや利益について意見交換する「SI対話」を設置し次回会合を11月までに行うこと、及びSIに関する事件につき二国間チャネルを設置することだけであった。
中国駐在経験の長いガルノー記者は、上記論説で、AIの安全性の概念が米中間では異なり、AIについては首脳会談の成果の期待値は低く、米中間で意味ある協力を構築することは困難だろうと論じているが、結果はそれを裏付けたものともいえる。
同記者が論ずる通り、中国にとっての AIの安全とはAIの利用により中国共産党の利益が害されないことであり、また、AI分野で米国に後れを取らないことにある。従って、AIについての対話や事件が生じたような場合の連絡チャネルの設置は、極めて表面的で、AIがもたらし得る様々なリスクを押さえる役割は期待し難い。
米国のAI研究者の間には、AIが自律的な機能を持てば人間の意図を超えてAIが暴走する可能性に危機感が高まっている。Anthropic社の研究者が「現在の開発ペースを減速させなければ、今後10年以内にAIによって全人類が死に至る確率が10%以上ある」という個人的見解を公に示し、開発の加速に抗議して退職する事態も起きている。
