Stadsadvocaat van San Francisco wil 16 AI-ontkleedwebsites sluiten

Wat u moet weten

• San Francisco onderneemt juridische stappen tegen 16 door AI aangestuurde ‘uitkleed’-websites.
• Deze sites creëren naaktfoto’s van vrouwen en kinderen die niet met wederzijdse instemming zijn gemaakt.
• Doel van de rechtszaak is om de websites te sluiten en de beheerders ter verantwoording te roepen.

In een gedurfde stap tegen digitale exploitatie treedt de stadsadvocaat van San Francisco hard op tegen websites die kunstmatige intelligentie gebruiken om nep-naaktfoto’s te maken. David Chiu kondigde een rechtszaak aan tegen 16 populaire ‘AI-ontkleedplatforms’ die controverse en bezorgdheid hebben veroorzaakt.

Deze websites stellen gebruikers in staat om foto’s van geklede personen te uploaden en vervolgens AI te gebruiken om realistische naaktversies te genereren zonder toestemming. De technologie is misbruikt om expliciete afbeeldingen van zowel volwassenen als minderjarigen te creëren, wat serieuze ethische en juridische vragen oproept.

Volgens Chiu’s kantoor ontvingen de beoogde sites dit jaar in slechts zes maanden meer dan 200 miljoen bezoeken. Dit duizelingwekkende aantal benadrukt de wijdverbreide aard van het probleem.

De rechtszaak beschuldigt de websitebeheerders van het overtreden van meerdere wetten, waaronder die welke deepfake-pornografie, wraakporno en kinderuitbuiting verbieden. Het is de bedoeling de platforms te sluiten en forse boetes op te leggen.

Chiu uitte zijn afschuw over de uitbuiting waaraan vrouwen en meisjes worden blootgesteld. Hij zei op X:

Dit onderzoek heeft ons naar de donkerste hoeken van het internet gebracht en ik ben ontzettend geschokt voor de vrouwen en meisjes die deze uitbuiting moeten doorstaan.

Dit is een groot en veelzijdig probleem dat wij als maatschappij zo snel mogelijk moeten oplossen.

— David Chiu (@DavidChiu) 15 augustus 2024

De juridische stappen komen te midden van groeiende bezorgdheid over AI-gegenereerde deepfakes. Opvallende zaken, zoals nep-naaktfoto’s van Taylor Swift die online circuleren, hebben de aandacht op het probleem gevestigd. Maar ook talloze gewone mensen zijn het slachtoffer geworden van deze technologie.

Een verontrustend incident betrof door AI gegenereerde naaktfoto’s van 16 middelbare scholieren in Californië. Zulke gevallen laten zien hoe deze technologie kan worden ingezet als wapen voor pesten en intimidatie, vooral onder jongeren.

Deepfake-pornografie vormt een groot risico voor de mentale gezondheid van de slachtoffers, evenals hun reputatie en toekomstperspectieven. Het probleem van het traceren van de oorsprong van deze afbeeldingen wordt nog groter zodra deze online verspreid worden.

De rechtszaak van San Francisco is een belangrijke stap in de strijd tegen het misbruik van AI voor het maken van intieme beelden zonder wederzijdse toestemming. De zaak vertegenwoordigt ook de grote kloof tussen de snelle vooruitgang in AI-technologie en de juridische en ethische kaders die moeite hebben om gelijke tred te houden.

De actie van de stad zou een precedent kunnen scheppen voor hoe andere rechtsgebieden deze groeiende dreiging aanpakken. Het stuurt ook een duidelijk signaal dat de creatie en distributie van niet-consensuele deepfakes niet getolereerd zal worden.

Nu deze juridische strijd zich ontvouwt, wordt de dringende behoefte aan uitgebreide regelgeving en ethische richtlijnen in het snel evoluerende veld van kunstmatige intelligentie benadrukt.