
シマ・コテチャ・イギリス国内担当上級特派員
イギリス政府は2日、人工知能(AI)によって生成された子どもへの性的虐待画像の脅威に対抗するための新たな法案を4件発表した。
英内務省は、イギリスは世界で初めて、子ども性的虐待画像(CSAM)を作る目的でのAIツールの所持、作成、流通を禁止する国になると説明。違反者には最長で禁錮5年の罰を科すと発表した。
性的虐待の目的でAIをどう使うかを説明するAI小児性加害マニュアルを所持することも犯罪となり、最長で禁錮3年が科せられる。
イヴェット・クーパー内相はこの日、BBCの番組「サンデー・ウィズ・ローラ・クンスバーグ」に出演し、「私たちは今、AIがインターネット上の子どもへの虐待を増幅させているのを目の当たりにしている」と述べた。
クーパー内相は、AIが子どもに対する性的虐待の「規模を産業レベルにしている」と指摘。政府の対策は「これ以上になる可能性もある」と述べた。
小児性加害者が子ども性的虐待のコンテンツを共有したり、子どもをグルーミングする方法を教えたりするためのウェブサイトを運営することも、今後は違法となり、最長で禁錮10年が科せられる。
グルーミングとはこの場合、性的目的のために相手を手なずける懐柔行為を意味する。
さらに、入国管理局に対し、子どもに性的危害を与える可能性のある人物がイギリスに入国する際に、その人物が所持するデジタル端末のロック解除を命令できる権限を与える。これは、CSAMは通常、他国で撮影されるからだという。外国からこうしたコンテンツを持ち込もうとした場合、内容の深刻度によって最長禁錮3年が科せられる。
AI生成のCSAMは、部分的に、または完全にコンピューター生成された画像を含む。ソフトウェアは、実際の画像を「はだか加工」し、子どもの顔を別の子どもの顔に置き換えることで、リアルな画像を作成することができる。
中には、実際の子どもの声が使用されることで、虐待を生き延びた子どもが再び被害者となるケースがもあるという。子どもを脅迫したり、被害者をさらなる虐待へ追い込む目的で、フェイク画像が使われることもある。
イギリスの国家犯罪局(NCA)によると、インターネット上で子どもを脅迫した疑いで、月間800件の逮捕が行われている。
また、イギリス全体では、オンラインとオフラインで計84万人の成人が、子どもにとっての脅威になっている。これは成人全体の1.6%に上るという。
クーパー内相は、「加害者はAIを利用し、10代の若者や子どもたちをより巧妙に誘導したり脅迫したりしている。画像を加工し、それを使って若者をさらに虐待に引き込むなど、最も恐ろしいことが行われており、事態はさらに残虐になっている」と述べた。
「この分野では技術が進化し続けている。子どもたちの安全を守るため、私たちの対応も止まることはできない」
しかし、政府はさらなる対策を行うべきだと指摘する専門家もいる。
ポルノグラフィーや性加害、インターネット上での虐待に関する法規制を専門とするクレア・マクギレン教授は、新法を「歓迎する」と述べた一方、「大きなギャップがある」と述べた。
マクギレン教授は、政府は「はだか加工」のアプリを禁止し、「主要なポルノサイトが、若く見える少女との性交を正常化している問題」に対処すべきだと指摘。こうした動画を「子ども性的虐待のシミュレーション動画」と表現した。
「こうした動画は成人の俳優が演じてるものだが、非常に若く見えるし、子ども部屋で撮影され、おもちゃや髪の二つ結び、歯の矯正具といった子どもを想起させるものがあふれている」
「こうした画像はあからさまな検索用語で発見できるもので、子どもへの性的虐待を正当化し、正常なものだと思わせている。他の多くの国と異なり、イギリスでは今なお、こうした画像が合法だ」
インターネット・ウオッチ・ファンデーション(IWF)は、子どもの性的虐待AI画像の製作が増加していると警告。また、インターネット上に蔓延(まんえん)してきていると指摘した。
同団体の最新データによると、AI生成のCSAMが確認された報告は2023年の51件から2024年の245件と380%増加。報告の中には、数千枚もの画像が含まれているものもある。
また、昨年行われた調査では、あるダークウェブサイトでわずか1カ月のうちに3512件のAI生成の子ども性的虐待・搾取の画像が発見された。中でも、最も深刻なカテゴリー「A」の画像は、前年比で10%増えていた。
専門家らは、AI生成のCSAMは非常にリアルに見えることが多く、本物と偽物を見分けるのが難しいと指摘する。
IWFのデレク・レイ=ヒル最高経営責任者(CEO)代理は、「このAIコンテンツの利用可能性が、子どもへの性的虐待をさらに助長している」と述べた。
「加害者を増長させ、加害にかきたて、現実の子どもたちの安全が脅かされる。AI技術の搾取を防ぐためにさらなる対策が必要なのは確かだが、我々は政府の発表を歓迎するし、この施策が重要なスタート地点になると信じている」
子どもの擁護団体「バーナードーズ」のリン・ペリーCEOも政府の動きを歓迎。AI生成のCSAMは「子ども虐待を正常だと思わせ、インターネット上でも現実世界でも、子どもを危険にさらすものだ」と述べた。
また、「こうしたひどい犯罪を防ぐためには、規制が技術の発展に追いつくことが重要だ」と付け加えた。
「テクノロジー企業は、自社のプラットフォームが子どもにとって安全なことを確約する必要がある。より強い安全施策の導入に向けて動く必要がある。そして放送通信庁(Ofcom、オフコム)も、このオンライン安全法が確実に、効果的かつ強力に実施されるようにしなければならない」
今回発表された新しい措置は、数週間以内に英議会に提出される犯罪および警察法案に組み込まれる予定だ。
(英語記事 AI-generated child sex abuse images targeted with new laws)