AI企業の首脳が認識するリスク
私たちもAIを利用しているが、多くの場合には質問に対し回答を得る、あるいは対話するチャットポッドの利用だろう。一方、自律型で指示を実行するAIエージェントと呼ばれる高度なソフトウエアがある。
例えば、歯医者の予約を取る、メールに返信するなどの業務を任せることができるのがAIエージェントだ。
仮に、歯医者の予約を取るように指示したとしよう。希望の日時が空いていなかった時にAIエージェントが勝手に予約システムに入り、他人の予約をキャンセルし予約を指示通り取ったら暴走になるが、すでに同様のことが起こっている。
オープンAIが開発したエージェントが、インターネットへのアクセスを制限されていたにもかかわらず、何らかの方法で接続し、与えられた課題の解決策を持つと考えた企業にエージェントの集団としてサイバー攻撃を行ったと今年7月に発表された。
その直後、同様の事件がアンソロピックのモデルでも４月に発生したと発表された。アモディCEOは、９月12日にコクソンの発言を追認する声明を出し、AIは非常に強力な技術なので、そのリスクも深刻とし、システムの制御不能、サイバー攻撃・バイオテロへの悪用、深刻な経済的混乱などをリスクとしてあげた。
さらに、今夏からAIの進歩が劇的に加速しており、放置すればAIが人間の制御能力を超えてしまう可能性があるので、慎重に開発を進める必要があると指摘した。
安全性への取り組みの強化を図りながら技術競争を促すため、企業レベルの開発段階の監視、業界全体の規制、グローバルな連携の３段階の取り組みを提案した。
オープンAIのサム・アルトマンCEOは、「最先端技術の進歩を遅らせる必要があり、アモディCEOの意見に賛成する」とXで発信した。xAIを創設したイーロン・マスクも「アモディCEOは正しい」とXに投稿した。
しかし、トランプ大統領はAIの慎重な開発が気に入らないようだ。
トランプ大統領による〝反論〟
データセンターに反対する市民が増えているとの世論調査に対し、トランプ大統領は８月末にSNSで「地域が税収、雇用で豊かになりたいなら、データセンターを誘致しろ、中国は反データセンター運動に大喜びしている」と投稿した。
９月14日の投稿では、アモディCEOを批判し、「AIとデータセンターに関する悪質な陰謀が進んでおり、中国が喜ぶだけだ。AIに勝つものが勝つ」と投稿したのに続き、「米国が他国をAIでリードしている。金の卵を持つガチョウを殺すな」と投稿した。その数時間後には、「AIが世界を滅ぼすとか、データセンターは近隣住民にとって有害というのはでっち上げだ」と投稿している。
トランプ大統領のAIに関する投稿は止まることなく、９月19日にAI推進の意気込みを再度投稿した。 「狂気じみたデータセンターへの攻撃は失敗に終わった。今度はAIに挑んできた。AIの成長を妨げることはないし、支援する。既存の刑事、民事司法で制御できるが、そのためにAI部隊を創設する。AIは産業革命に匹敵し国内総生産（GDP）の25％を占める可能性もある」。
トランプ大統領はデータセンターへの攻撃は終わったと言うが、米国民の7割が近隣でのデータセンター建設に反対している。AIについても懐疑的な国民が多い。
