９月に入ってアメリカではAIの暴走などを警戒する、いわば「AI脅威論」が盛んになった。一つの契機となったのは、AI開発を主導しているアメリカの主要企業であるオープンAIからアンソロピックに移籍してAIの学習プロセスを研究していた人物、ジェイコブ・コクソン（Coxon)氏のメッセージが一気に拡散したことだ。
コクソン氏は、英国出身でケンブリッジに学んだ27歳の研究者で、アンソロピックを辞任するにあたって、XにAIの脅威に関する投稿を行った。
この投稿はアッという間に拡散し、９月28日現在、X上で1億7000万回以上閲覧されたという。加えて、コクソン氏が様々なメディアで語っている内容を総合すると、以下のような衝撃的な内容となっている。
「今後10年以内にAIが制御不能になる危険がある」
「その場合にAIが人類を滅亡させる可能性が否定できない」
「今、これに対策するべきで、遅れれば手遅れになる」
AIの暴走というのは、昔から言われていることではある。けれども、さすがに「AIの事前学習（プリトレーニング）」に関する技術者であるコクソン氏が言っているということで、相当なインパクトがあったのは事実だ。
以前からあったAIへの危機感
実は、こうした危機感は、AI業界ではかなり切迫したものとなっていた。具体的には、2026年７月に明るみに出たAIプラットフォーム企業のハギングフェイスに対するハッキング事件である。具体的には、オープンAIが、隔離された環境でテストしていたはずの「脆弱性評価エージェント」が、ハギングフェイスのAIに侵入してしまったのだ。
これはオープンAIの研究者が悪意を持って、ハギングフェイスのAIをハックしたのではなかった。自律的に動作するAIエージェントが暴走して、いつの間にか隔離環境から飛び出してネット接続を試み、最終的には膨大な数の攻撃を仕掛けてその一部が成功してしまった。そのように考えられている。
