Prokurator miasta San Francisco chce zamknąć 16 witryn internetowych rozbierających AI

Co warto wiedzieć

• San Francisco podejmuje kroki prawne przeciwko 16 stronom internetowym wykorzystującym sztuczną inteligencję do „rozbierania się”.
• Na tego typu stronach zamieszczane są bez zgody użytkownika nagie zdjęcia kobiet i dzieci.
• Pozew ma na celu zamknięcie stron internetowych i pociągnięcie operatorów do odpowiedzialności.

W odważnym posunięciu przeciwko cyfrowej eksploatacji, miejski prawnik San Francisco rozprawia się ze stronami internetowymi, które wykorzystują sztuczną inteligencję do tworzenia fałszywych nagich zdjęć. David Chiu ogłosił pozew przeciwko 16 popularnym platformom „AI undressing”, które wywołały kontrowersje i obawy.

Te strony internetowe pozwalają użytkownikom na przesyłanie zdjęć ubranych osób, a następnie używanie sztucznej inteligencji do generowania realistycznych wersji nagości bez zgody. Technologia ta była niewłaściwie wykorzystywana do tworzenia wyraźnych obrazów zarówno dorosłych, jak i nieletnich, co budzi poważne wątpliwości etyczne i prawne.

Według biura Chiu, docelowe strony odnotowały ponad 200 milionów odwiedzin w ciągu zaledwie sześciu miesięcy tego roku. Ta oszałamiająca liczba podkreśla powszechność problemu.

Pozew oskarża operatorów stron internetowych o naruszenie wielu praw, w tym zakazujących deepfake pornografii, pornografii zemsty i wykorzystywania dzieci. Dąży do zamknięcia platform i nałożenia wysokich grzywien.

Chiu wyraził swoje oburzenie z powodu wykorzystywania kobiet i dziewcząt, stwierdzając na portalu X:

To śledztwo zaprowadziło nas do najciemniejszych zakątków Internetu. Jestem przerażony losem kobiet i dziewcząt, które musiały znosić takie wykorzystywanie.

To duży, wieloaspektowy problem, który my jako społeczeństwo musimy rozwiązać jak najszybciej.

— David Chiu (@DavidChiu) 15 sierpnia 2024 r

Działania prawne są podejmowane w obliczu rosnących obaw dotyczących deepfake’ów generowanych przez AI. Głośne przypadki, takie jak fałszywe nagie zdjęcia Taylor Swift krążące w Internecie, zwróciły uwagę na ten problem. Jednak niezliczona liczba zwykłych ludzi również padła ofiarą tej technologii.

Jeden niepokojący incydent dotyczył wygenerowanych przez AI nagich zdjęć 16 uczniów szkół średnich w Kalifornii. Takie przypadki pokazują, jak tę technologię można wykorzystać do nękania i zastraszania, zwłaszcza wśród młodych ludzi.

Pornografia deepfake stwarza ogromne ryzyko dla zdrowia psychicznego ofiar, a także ich reputacji i przyszłych perspektyw. Problem śledzenia pochodzenia tych obrazów jest jeszcze poważniejszy, gdy zaczynają się one rozprzestrzeniać w Internecie.

Pozew San Francisco stanowi znaczący krok w walce z nadużywaniem AI do tworzenia intymnych obrazów bez zgody. Sprawa ta stanowi również szeroką lukę między szybkimi postępami w technologii AI a ramami prawnymi i etycznymi, które mają trudności z nadążaniem.

Działanie miasta może stanowić precedens dla innych jurysdykcji, jeśli chodzi o radzenie sobie z tym rosnącym zagrożeniem. Wysyła również jasny komunikat, że tworzenie i dystrybucja niekonsensualnych deepfake’ów nie będzie tolerowana.

Rozwój tej batalii prawnej pokazuje pilną potrzebę wprowadzenia kompleksowych regulacji i wytycznych etycznych w szybko rozwijającej się dziedzinie sztucznej inteligencji.