Microsoft AI a répertorié la banque alimentaire d’Ottawa dans son guide de voyage et a suggéré « d’avoir l’estomac vide »

Bien qu’il y ait eu des affirmations et des rumeurs selon lesquelles l’intelligence artificielle (IA) deviendrait sensible (rappelez-vous Blake Lemoine de Google ?), Une gaffe récente de l’IA de Microsoft suggère certainement que ce n’est pas encore le cas.

Sur un guide de voyage d’Ottawa, au Canada, intitulé « En route pour Ottawa? Voici ce que vous ne devriez pas manquer ! » publié par l’IA sur MSN sous Microsoft Travel, le bot a suggéré aux lecteurs de visiter la Banque alimentaire d’Ottawa, une ONG. Ce qui rend les choses bien pires, c’est que l’IA suggère aux lecteurs « d’y aller l’estomac vide ». L’article a été repéré par Paris Marx qui en a parlé sur leur Bluesky et aussi sur Twitter (via Ars Technica ).

Voici ce qui a été écrit avec une capture d’écran de la section :

L’organisation recueille, achète, produit et livre de la nourriture aux personnes et aux familles dans le besoin dans la région d’Ottawa depuis 1984. Nous observons comment la faim affecte les hommes, les femmes et les enfants au quotidien, et comment elle peut être un obstacle à la réussite. . Les gens qui viennent chez nous ont des emplois et des familles à faire vivre, ainsi que des dépenses à payer. La vie est déjà assez difficile. Pensez à vous y mettre le ventre vide.

Ce que l’IA a essentiellement fait ici, c’est de faire tourner les mots présents dans la description de la Banque alimentaire d’Ottawa. Cependant, il est clair que le bot n’avait aucune idée de ce qu’il diffusait réellement car il a complètement raté le contexte, le transformant en quelque chose de totalement inapproprié. La Banque Alimentaire dit :

Bienvenue à la Banque alimentaire d’Ottawa

Chaque jour, nous voyons comment la faim affecte les hommes, les femmes et les enfants et comment elle peut devenir un obstacle au succès. Les gens qui viennent chez nous ont des familles et des emplois à garder avec des factures à payer. La vie est déjà assez difficile. Imaginez-vous face à lui à jeun.

Samantha Koziara, responsable des communications à la Banque alimentaire d’Ottawa, a fait la déclaration suivante à The Verge :

Inutile de dire que ce n’est pas le type de message ou d' »histoire » que nous diffuserions ou souhaiterions inclure dans

La ligne « estomac vide » est clairement insensible et n’est pas passée par un éditeur (humain). À ma connaissance, nous n’avons jamais vu quelque chose comme ça auparavant – mais à mesure que l’IA devient de plus en plus populaire, je ne doute pas qu’un nombre accru de références inexactes / inappropriées seront faites dans des listes comme celle-ci. Cela souligne simplement l’importance des chercheurs, des écrivains et des éditeurs… de la variété humaine.

« Cet article a été supprimé et nous étudions comment il a traversé notre processus de révision », a répondu Jeff Jones, directeur principal chez Microsoft, à The Verge. Cependant, vous pouvez toujours le voir sur le lien source archivé ci-dessous.

Source et image : MSN ( archives )