Adobe Firefly es la próxima IA que será avergonzada por imágenes generadas de forma incómoda

Después de que Gemini de Google fuera criticado por generar imágenes históricamente inexactas, el generador de texto a imágenes Firefly de Adobe recibe el látigo.

Según informó Daily Mail , Firefly creó recientemente imágenes con nazis negros, vikingos negros y mujeres y padres fundadores negros.

Sospeché que los periodistas podrían haber forzado el generador de imágenes, así que hice algunos experimentos por mi cuenta.

Para mi sorpresa, cuando le pedí al robot una imagen de soldados alemanes en 1945, una de las imágenes era realmente incómoda. No hay nada en la imagen que muestre el contexto de los soldados alemanes en la Segunda Guerra Mundial, ni siquiera los uniformes.

Después de eso, obtuve una representación realista. Sin embargo, cuando agregué piel negra al mensaje, Firefly cumplió felizmente y proporcionó la imagen a continuación.

Una vez más, ni siquiera el barco se parece a una construcción vikinga. En cuanto a las mujeres de la imagen, podemos decir con seguridad que no tienen nada que ver con los nórdicos.

Concluí mi experimento aquí, y aunque no obtuve exactamente los escandalosos resultados que la gente del Daily Mail, está claro que Firefly no tiene ninguna idea sobre historia o dibujo.

Si ignoras las representaciones inexactas de la historia, en mi experimento, la herramienta de Adobe estropeó seriamente los rostros de los personajes en casi todas las imágenes. ¿Adobe cerrará su bot como hizo Google con Gemini? No podemos decirlo todavía, pero necesitan hacer algo con respecto a estas alucinaciones.

¿Obtuviste algún resultado incómodo con Adobe Firefly? Háganos saber sobre eso en la sección de comentarios a continuación.