샌프란시스코 시 변호사, AI 탈의 웹사이트 16곳 폐쇄 원해

알아야 할 사항

• 샌프란시스코는 AI 기반 ‘옷 벗기기’ 웹사이트 16개를 상대로 법적 조치를 취하고 있습니다.
• 이러한 사이트에서는 여성과 어린이의 동의 없이 누드 사진을 만듭니다.
• 소송의 목적은 웹사이트를 폐쇄하고 운영자의 책임을 묻는 것입니다.

디지털 착취에 대한 대담한 움직임으로 샌프란시스코 시 변호사는 인공 지능을 사용하여 가짜 누드 이미지를 만드는 웹사이트를 단속하고 있습니다. 데이비드 치우는 논란과 우려를 불러일으킨 16개의 인기 있는 “AI 옷 벗기기” 플랫폼을 대상으로 소송을 발표했습니다 .

이러한 웹사이트는 사용자가 옷을 입은 사람들의 사진을 업로드한 다음 AI를 사용하여 동의 없이 사실적인 누드 버전을 생성할 수 있도록 합니다. 이 기술은 성인과 미성년자 모두의 노골적인 이미지를 만드는 데 오용되어 심각한 윤리적 및 법적 문제를 제기했습니다.

Chiu의 사무실에 따르면, 올해 단 6개월 동안 타깃 사이트는 2억 건 이상의 방문을 받았습니다. 이 엄청난 숫자는 문제의 광범위한 본질을 강조합니다.

이 소송은 웹사이트 운영자들이 딥페이크 포르노, 리벤지 포르노, 아동 착취를 금지하는 법률을 포함한 여러 법률을 위반했다고 비난합니다. 플랫폼을 폐쇄하고 엄청난 벌금을 부과하려고 합니다.

Chiu는 X에서 다음과 같이 말하며 여성과 소녀들이 겪는 착취에 대한 공포를 표현했습니다 .

이 조사는 우리를 인터넷의 가장 어두운 구석까지 데려갔고, 이런 착취를 견뎌야 했던 여성과 소녀들을 생각하면 정말 끔찍합니다.

이는 우리 사회가 가능한 한 빨리 해결해야 할 크고 다면적인 문제입니다.

— 데이비드 치우(@DavidChiu) 2024년 8월 15일

이 법적 조치는 AI가 생성한 딥페이크에 대한 우려가 커지는 가운데 이루어졌습니다. 테일러 스위프트의 가짜 누드 사진이 온라인에 유포되는 것과 같은 유명 사건들이 이 문제에 주목하게 했습니다. 그러나 수많은 일반인들도 이 기술의 희생자가 되었습니다.

캘리포니아의 중학생 16명의 누드 이미지를 AI가 생성한 사건이 있었습니다 . 이런 사례는 이 기술이 어떻게 괴롭힘과 괴롭힘을 위해 무기화될 수 있는지, 특히 젊은이들 사이에서 어떻게 그럴 수 있는지를 보여줍니다.

딥페이크 포르노는 피해자의 정신 건강은 물론, 그들의 평판과 미래 전망에도 큰 위험을 초래합니다. 이러한 이미지의 출처를 추적하는 문제는 이것이 온라인에 퍼지기 시작하면 더욱 복잡해집니다.

샌프란시스코의 소송은 합의되지 않은 친밀한 이미지를 만드는 데 AI를 오용하는 것을 퇴치하는 데 있어 중요한 단계를 나타냅니다. 이 사건은 또한 AI 기술의 급속한 발전과 그에 발맞추기 위해 고군분투하는 법적 및 윤리적 프레임워크 간의 큰 격차를 나타냅니다.

이 도시의 조치는 다른 관할권이 이 증가하는 위협에 대처하는 방법에 대한 선례를 만들 수 있습니다. 또한 합의되지 않은 딥페이크의 생성 및 배포는 용납되지 않을 것이라는 명확한 메시지를 보냅니다.

이러한 법적 싸움이 전개되면서 빠르게 진화하고 있는 인공지능 분야에서 포괄적인 규제와 윤리 지침이 시급히 필요하다는 사실이 부각되었습니다.