AIについて懸念される主要なリスクは、(1)生物兵器やテロへの悪用、(2)国家規模のサイバー攻撃、(3)AIの自律性による制御の喪失等が指摘されている。
トランプは米国の優位性を保つためにも開発を減速させることに反対で、イノベーション推進、規制最小化により、経済的、地政学的利益を優先している。トランプは９月27日の夜に Anthropic 社のアメデイと私的な夕食会を行い、29日にはAI業界の代表を大統領府に招いて会議をする等、AI業界との関係を調整し協力させようとする。
中国が世界に与えたい〝影響〟
他方、中国は、国内的には、AIが反体制運動に利用されないことのみならず、反政府派を検知し取り締まるため人民管理の手段として活用しようとし、また海外では、安価で扱いやすいオープンウェイトを売り込み、国際的なAI市場での優位を確保することを狙う。
習近平が７月に開催した世界人工知能大会では、AIの普及とそのための技術協力や国際標準化などを目的に「世界AI 協力機構」を発足させ、新興国を中心に30カ国以上が参加を決めた。これは安価なAI技術を途上国に提供しAI市場における中国への依存を深めるという経済的利益の問題だけでなく、AIの深部に組み込まれた中国の政治的利益を守る行動原理が世界に伝播する可能性があるという。
AIを人間の制御下に置くという点では、米中の利益が合致するが、目的や内容の相違から、具体的な規制や制御技術等での協力の構築は難しい。AI競争の本質は技術だけではなく、AIを通じてどのような政治的・社会的秩序が世界に広がるのかという問題であるとのガルノーの指摘は極めて的を射たものである。今後、そのような競争の行き過ぎを止めるためのグローバルな取り組みが必要ではないだろうか。
