サンフランシスコ市弁護士、AI脱衣ウェブサイト16件の閉鎖を要求

知っておくべきこと

• サンフランシスコは、AIを活用した「脱衣」ウェブサイト16社に対して法的措置を講じている。
• これらのサイトは、女性や子供の同意のないヌード画像を作成します。
• この訴訟は、ウェブサイトを閉鎖し、運営者に責任を負わせることを目的としている。

デジタル搾取に対する大胆な対策として、サンフランシスコ市の弁護士は、人工知能を使って偽のヌード画像を作成するウェブサイトを取り締まっている。デビッド・チウ氏は、論争と懸念を巻き起こしている人気の「AI脱衣」プラットフォーム16社を標的とした訴訟を発表した。

これらのウェブサイトでは、ユーザーが服を着た人物の写真をアップロードし、AI を使って同意なしにリアルなヌードバージョンを生成することができます。この技術は、成人と未成年者の両方の露骨な画像を作成するために悪用されており、深刻な倫理的および法的問題を引き起こしています。

チウ氏の事務所によれば、標的となったサイトは今年わずか6か月間で2億回以上のアクセスがあった。この驚異的な数字は、この問題がいかに広範囲に及んでいるかを浮き彫りにしている。

この訴訟は、ディープフェイクポルノ、リベンジポルノ、児童搾取を禁止する法律を含む複数の法律に違反したとしてウェブサイト運営者を告発しており、プラットフォームの閉鎖と高額の罰金の科すことを目指している。

チウ氏は、女性や少女たちが受けてきた搾取に対する恐怖を表明し、X で次のように述べた。

この調査はインターネットの最も暗い隅にまで及んでおり、私はこのような搾取に耐えなければならなかった女性や少女たちのことを心から恐れています。

これは、私たち社会ができるだけ早く解決しなければならない、大きな多面的な問題です。

— David Chiu (@DavidChiu) 2024 年 8 月 15 日

この訴訟は、AIが生成したディープフェイクに対する懸念が高まる中で起こされた。テイラー・スウィフトの偽ヌード画像がネット上で出回っているなど、注目を集めた事件がこの問題に注目を集めている。しかし、数え切れないほどの一般人もこの技術の犠牲になっている。

カリフォルニア州の中学生16人のヌード画像をAIが生成するという、問題のある事件がありました。こうした事件は、この技術が、特に若者の間でいじめや嫌がらせの武器として利用される可能性があることを物語っています。

ディープフェイクポルノは、被害者の精神的健康だけでなく、評判や将来の見通しにも大きなリスクをもたらします。これらの画像がオンラインで拡散し始めると、その出所を追跡する問題はさらに複雑になります。

サンフランシスコの訴訟は、同意のない親密な画像を作成するための AI の悪用と戦う上で重要な一歩です。また、この訴訟は、AI 技術の急速な進歩と、それに追いつくのに苦労している法的および倫理的枠組みの間にある大きなギャップを象徴しています。

この市の行動は、他の管轄区域がこの増大する脅威に対処する方法の前例となる可能性がある。また、同意のないディープフェイクの作成と配布は容認されないという明確なメッセージも送っている。

この法廷闘争が展開するにつれ、急速に進化する人工知能の分野における包括的な規制と倫理ガイドラインの緊急の必要性が浮き彫りになっています。