Der Staatsanwalt von San Francisco will 16 Websites zum Thema KI-Entkleidung schließen

Was Sie wissen sollten

• San Francisco leitet rechtliche Schritte gegen 16 KI-gestützte „Auszieh“-Websites ein.
• Auf diesen Websites werden ohne deren Zustimmung Nacktbilder von Frauen und Kindern erstellt.
• Ziel der Klage ist die Schließung der Websites und die Zurechenbarkeit der Betreiber.

In einem mutigen Schritt gegen die digitale Ausbeutung geht der Staatsanwalt von San Francisco gegen Websites vor, die künstliche Intelligenz nutzen, um gefälschte Nacktbilder zu erstellen. David Chiu kündigte eine Klage gegen 16 beliebte „KI-Entkleidungs“-Plattformen an, die für Kontroversen und Besorgnis gesorgt haben.

Auf diesen Websites können Benutzer Fotos von bekleideten Personen hochladen und dann mithilfe künstlicher Intelligenz realistische Nacktbilder ohne deren Zustimmung erstellen. Die Technologie wurde missbraucht, um explizite Bilder von Erwachsenen und Minderjährigen zu erstellen, was ernsthafte ethische und rechtliche Fragen aufwirft.

Laut Chius Büro verzeichneten die betroffenen Websites in nur sechs Monaten dieses Jahres über 200 Millionen Besuche. Diese erschreckende Zahl unterstreicht die weitverbreitete Natur des Problems.

Die Klage wirft den Betreibern der Website vor, gegen mehrere Gesetze verstoßen zu haben, darunter gegen Deepfake-Pornografie, Rachepornografie und Kindesmissbrauch. Ziel der Klage ist die Schließung der Plattformen und die Verhängung hoher Geldstrafen.

Chiu drückte sein Entsetzen über die Ausbeutung aus, die Frauen und Mädchen erleiden müssen, und erklärte auf X:

Diese Untersuchung hat uns in die dunkelsten Ecken des Internets geführt und ich bin zutiefst entsetzt über die Frauen und Mädchen, die diese Ausbeutung ertragen mussten.

Dies ist ein großes, vielschichtiges Problem, das wir als Gesellschaft so schnell wie möglich lösen müssen.

– David Chiu (@DavidChiu) 15. August 2024

Die Klage erfolgte im Zuge wachsender Besorgnis über KI-generierte Deepfakes. Aufsehenerregende Fälle wie gefälschte Nacktbilder von Taylor Swift, die im Internet kursierten, haben die Aufmerksamkeit auf das Problem gelenkt. Allerdings sind auch zahllose normale Menschen Opfer dieser Technologie geworden.

Ein beunruhigender Vorfall betraf mithilfe künstlicher Intelligenz erstellte Nacktbilder von 16 Mittelschülern in Kalifornien. Solche Fälle zeigen, wie diese Technologie als Waffe für Mobbing und Belästigung eingesetzt werden kann, insbesondere unter jungen Menschen.

Deepfake-Pornografie stellt ein enormes Risiko für die psychische Gesundheit der Opfer sowie für ihren Ruf und ihre Zukunftsaussichten dar. Das Problem, den Ursprung dieser Bilder nachzuverfolgen, wird noch verschärft, sobald diese anfangen, sich online zu verbreiten.

Die Klage von San Francisco ist ein wichtiger Schritt im Kampf gegen den Missbrauch von KI zur Erstellung nicht einvernehmlicher intimer Bilder. Der Fall zeigt auch die große Kluft zwischen den rasanten Fortschritten in der KI-Technologie und den rechtlichen und ethischen Rahmenbedingungen, die kaum Schritt halten können.

Das Vorgehen der Stadt könnte einen Präzedenzfall dafür schaffen, wie andere Gerichtsbarkeiten dieser wachsenden Bedrohung begegnen. Es sendet auch eine klare Botschaft, dass die Erstellung und Verbreitung von nicht einvernehmlichen Deepfakes nicht toleriert wird.

Der aktuelle Rechtsstreit unterstreicht die dringende Notwendigkeit umfassender Regulierung und ethischer Leitlinien für den sich rasch entwickelnden Bereich der künstlichen Intelligenz.