ローラ・クレス・テクノロジー記者
ソーシャルメディア「X」を所有する米実業家イーロン・マスク氏が率いる人工知能（AI）企業「xAI」の生成AIチャットボット「Grok」に、自分の写真から着ている服を消された女性が、「人間性を奪われ、性的ステレオタイプに落とし込まれたと感じる」とBBCに話した。
BBCは「X」上で、Grokに女性の服を脱がせ、本人の同意なしにビキニ姿に見せたり、性的な状況に置いたりするよう指示する投稿を複数確認した。
Grokを運営するxAIは、コメントを求めたBBCに対し、「レガシーメディアはうそをつく」という自動生成の返信以外は反応しなかった。
サマンサ・スミス氏は、自分の画像が改変されたことについてXに投稿。同じ経験をした複数の人がそれにコメントしている。しかしその後、他のユーザーがGrokに、スミス氏の画像をさらに生成するよう要求した。
「女性たちはこれに同意していない」と、スミス氏は話した。
「私が実際に服を脱いだ状態になったわけではないが、（Grokが生成した画像は）私に見えたし、私のように思えたし、誰かが実際に私のヌードやビキニ写真を投稿したように、私を侵害するものに思えた」
英内務省の報道官は、こうした「ヌード加工ツール」を禁止する法律を準備中だと説明。新しく刑事罰の対象になった後、そのような技術を提供した者は「禁錮刑と多額の罰金の対象になる」と述べた。
英通信業界の独立監視機関、放送通信庁（Ofcom、オフコム）は、IT企業はイギリスの利用者が違法コンテンツを閲覧するリスクを「精査しなくてはならない」と話した。ただし、現在XやGrokを対象にAI生成画像について調査しているかどうかは明らかにしなかった。
Grokは無料のAIアシスタント（一部のプレミアム機能は有料）で、Xのユーザーが投稿でタグ付けすると応答する。通常は他の投稿者の発言に反応や文脈を追加するために使われるが、XのユーザーはAI画像編集機能を使い、アップロードした画像を編集することもできる。
Grokはこれまでにも、ヌードや性的なコンテンツを含む画像や動画の生成を許可しているとして批判されている。以前は、米歌手テイラー・スウィフト氏の性的な動画を作成したと非難された。
英ダラム大学のクレア・マクグリン法学教授は、XやGrokは「そのつもりがあるなら、この種の虐待を自ら防ぐことができる」と指摘。しかしむしろ、XとGrokは、「罰を受けずにやりたいようにできることを楽しんでいるように見える」とも述べた。
「Xは何カ月も、何の対策もとらないまま、こうした画像の作成と流布を許している。そして規制当局がこれを取り締まる動きもまだ見られない」と教授は指摘した。
xAI社の利用規約では、「人物の肖像をポルノ的な方法で描写すること」を禁止している。
OfcomはBBCに対して、「同意のない性的画像や児童性的虐待素材を作成または共有することは違法」で、AIで作成された性的ディープフェイクもこれに含まれるとコメントした。
Ofcomは、Xのようなプラットフォームは、イギリスの利用者が違法コンテンツに遭遇するリスクを「減らすための適切な措置」を講じ、認識した場合は素早く削除する必要があると述べた。
（追加取材：クリス・ヴァランス）
（英語記事 Woman felt 'dehumanised' after Musk's Grok AI used to digitally remove her clothes）
