El fiscal de la ciudad de San Francisco quiere cerrar 16 sitios web de desnudez con inteligencia artificial

Qué saber

• San Francisco está tomando medidas legales contra 16 sitios web de “desnudez” impulsados ​​por inteligencia artificial.
• Estos sitios crean imágenes de desnudos no consensuados de mujeres y niños.
• La demanda tiene como objetivo cerrar los sitios web y responsabilizar a los operadores.

En una medida audaz contra la explotación digital, el fiscal de la ciudad de San Francisco está tomando medidas enérgicas contra los sitios web que utilizan inteligencia artificial para crear imágenes falsas de desnudos. David Chiu anunció una demanda dirigida a 16 plataformas populares de «desnudez con inteligencia artificial» que han generado controversia y preocupación.

Estos sitios web permiten a los usuarios subir fotos de personas vestidas y luego usar inteligencia artificial para generar versiones realistas de desnudos sin consentimiento. La tecnología se ha utilizado indebidamente para crear imágenes explícitas tanto de adultos como de menores, lo que plantea graves cuestiones éticas y legales.

Según la oficina de Chiu, los sitios atacados recibieron más de 200 millones de visitas en sólo seis meses este año. Esta asombrosa cifra pone de relieve la naturaleza generalizada del problema.

La demanda acusa a los operadores de los sitios web de violar múltiples leyes, incluidas las que prohíben la pornografía deepfake, la pornografía vengativa y la explotación infantil. Busca cerrar las plataformas e imponer fuertes multas.

Chiu expresó su horror por la explotación que han sufrido las mujeres y las niñas, declarando en X:

Esta investigación nos ha llevado a los rincones más oscuros de Internet y estoy absolutamente horrorizada por las mujeres y niñas que han tenido que soportar esta explotación.

Este es un problema grande y multifacético que nosotros, como sociedad, debemos resolver lo antes posible.

— David Chiu (@DavidChiu) August 15, 2024

La acción legal se produce en medio de una creciente preocupación por los deepfakes generados por inteligencia artificial. Casos de alto perfil, como las imágenes falsas de desnudos de Taylor Swift que circulan en línea, han llamado la atención sobre el problema. Sin embargo, innumerables personas comunes también han sido víctimas de esta tecnología.

Un incidente preocupante involucró imágenes de desnudos generadas por inteligencia artificial de 16 estudiantes de secundaria en California. Estos casos demuestran cómo esta tecnología puede utilizarse como arma para el acoso y la intimidación, especialmente entre los jóvenes.

La pornografía deepfake plantea enormes riesgos para la salud mental de las víctimas, así como para su reputación y sus perspectivas de futuro. El problema de rastrear el origen de estas imágenes se agrava aún más cuando comienzan a difundirse en línea.

La demanda de San Francisco representa un paso importante en la lucha contra el uso indebido de la IA para crear imágenes íntimas no consensuadas. El caso también refleja la gran brecha que existe entre los rápidos avances en la tecnología de la IA y los marcos legales y éticos que luchan por seguirles el ritmo.

La acción de la ciudad podría sentar un precedente para la forma en que otras jurisdicciones abordan esta creciente amenaza. También envía un mensaje claro de que no se tolerará la creación y distribución de deepfakes no consentidos.

A medida que se desarrolla esta batalla legal, se destaca la necesidad urgente de una regulación integral y pautas éticas en el campo de la inteligencia artificial, en rápida evolución.