ハーバード大学のジョセフ・ナイ名誉教授が、人工知能（AI）の軍事利用に伴う安全保障上のリスクについて警告する論説を2024年7月31日付のProject Syndicateに投稿している。
1940年代にオッペンハイマーらが最初の核兵器を開発した時、彼らは核兵器が人類を滅ぼすのではないかと心配した。それ以来、核兵器の管理は永遠の課題だ。
現在、多くの科学者がAIも変革をもたらす道具だと考えているが、AIには善と悪の巨大な可能性がある。人間のチームが数カ月かかる作業をAIは数分で行うことができる。しかし、AIは、テロリスト他悪質な行為者の参入コストと障壁を低くする。
さらに、一部の専門家は、高度なAIが人間をコントロールするようになるのではないかと懸念している。そのような超知能マシンを開発するのにかかる時間は、数年から数十年と見積もられている。今日のAIがもたらすリスクの増大は既に大きな関心を集めている。
アスペン戦略グループは、今年AIが国家安全保障に与える影響に焦点を当て、そのメリットとリスクを検証した。メリットは、膨大な情報分析データの選別能力の向上、早期警戒システムの強化、複雑な後方支援システムの改善、サイバーセキュリティの向上等である。しかし、自律型兵器の進歩、プログラミング・アルゴリズムにおける偶発的なエラー、敵対的なサイバー攻撃等は大きなリスクでもある。
中国は広範なAI軍拡競争に大規模な投資を行い、構造的な優位性も誇っている。AIにとって、AIモデルを訓練するためのデータ、アルゴリズムを開発するための優秀なエンジニア、それを実行するための演算能力は、重要な３つの資源である。中国には、データへのアクセスに関する制限がほとんどなく、優秀な若いエンジニアを十分に抱えている。
