Microsoft AI incluyó al Banco de Alimentos de Ottawa en la guía de viaje, sugirió «ir con el estómago vacío»

Si bien ha habido afirmaciones y rumores acerca de que la Inteligencia Artificial (IA) se está volviendo inteligente (¿recuerdas a Blake Lemoine de Google ?), un error reciente de la IA de Microsoft ciertamente sugiere que ese no es el caso todavía.

En una guía de viaje de Ottawa, Canadá, titulada “¿Se dirige a Ottawa? ¡Esto es lo que no debe perderse!”, publicado por AI en MSN bajo Microsoft Travel, el bot ha sugerido a los lectores que visiten Ottawa Food Bank, una ONG. Sin embargo, lo que lo hace mucho peor es que la IA sugiere a los lectores «entrar con el estómago vacío». El artículo fue descubierto por Paris Marx, quien lo discutió en su Bluesky y también en Twitter (a través de Ars Technica ).

Esto es lo que se escribió con una captura de pantalla de la sección:

La organización ha estado recolectando, comprando, produciendo y entregando alimentos a personas y familias necesitadas en el área de Ottawa desde 1984. Observamos cómo el hambre afecta diariamente a hombres, mujeres y niños, y cómo puede ser una barrera para el logro. . Las personas que acuden a nosotros tienen trabajos y familias que mantener, así como gastos que pagar. La vida ya es bastante difícil. Considere la posibilidad de hacerlo con el estómago vacío.

Lo que la IA esencialmente hizo aquí fue girar las palabras presentes en la descripción del Banco de Alimentos de Ottawa. Sin embargo, está claro que el bot no tenía idea de lo que realmente estaba publicando, ya que se perdió por completo el contexto, convirtiéndolo en algo totalmente inapropiado. El Banco de Alimentos dice :

Bienvenido al Banco de Alimentos de Ottawa

Todos los días vemos cómo el hambre afecta a hombres, mujeres y niños y cómo puede convertirse en una barrera para el éxito. Las personas que vienen a nosotros tienen familias y trabajos que mantener con facturas que pagar. La vida es lo suficientemente desafiante. Imagínate enfrentarlo con el estómago vacío.

Samantha Koziara, Gerente de Comunicaciones del Banco de Alimentos de Ottawa, dio la siguiente declaración a The Verge :

No hace falta decir que este no es el tipo de mensaje o ‘historia’ que publicaríamos o en el que desearíamos ser incluidos.

La línea de ‘estómago vacío’ es claramente insensible y no pasó por un editor (humano). Que yo sepa, no hemos visto algo como esto antes, pero a medida que la IA se vuelve cada vez más popular, no dudo que se hará un mayor número de referencias inexactas/inapropiadas en listas como esta. Esto simplemente destaca la importancia de los investigadores, escritores y editores… de la variedad humana.

“Este artículo ha sido eliminado y estamos investigando cómo pasó por nuestro proceso de revisión”, respondió Jeff Jones, director sénior de Microsoft, a The Verge. Sin embargo, aún puede verlo en el enlace de la fuente archivada a continuación.

Fuente e imagen: MSN ( Archivo )