Microsoft AI vermeldde Ottawa Food Bank in reisgids, suggereerde “met lege maag te gaan”

Hoewel er beweringen en geruchten zijn dat kunstmatige intelligentie (AI) bewust wordt (herinner je Blake Lemoine van Google ?), suggereert een recente blunder door de AI van Microsoft zeker dat dit nog niet het geval is.

Op een reisgids in Ottawa, Canada, getiteld “Headed to Ottawa? Dit is wat je niet mag missen!”, gepubliceerd door de AI op MSN onder Microsoft Travel, heeft de bot lezers voorgesteld om de Ottawa Food Bank, een NGO, te bezoeken. Wat het echter nog veel erger maakt, is dat de AI suggereert dat lezers “er met een lege maag op ingaan”. Het artikel werd opgemerkt door Paris Marx die het besprak op hun Bluesky en ook op Twitter (via Ars Technica ).

Dit is wat er is geschreven met een screenshot van de sectie:

De organisatie verzamelt, koopt, produceert en bezorgt voedsel aan behoeftige mensen en gezinnen in de regio Ottawa sinds 1984. We observeren hoe honger mannen, vrouwen en kinderen dagelijks treft en hoe dit een belemmering kan vormen voor prestatie . Mensen die bij ons komen hebben banen en gezinnen die ze moeten onderhouden, maar ook onkosten. Het leven is al moeilijk genoeg. Overweeg om er op een lege maag in te gaan.

Wat de AI hier in wezen deed, was de woorden draaien die aanwezig zijn in de beschrijving van de Ottawa Food Bank. Het is echter duidelijk dat de bot geen idee had van wat hij eigenlijk uitbracht, omdat hij de context volledig miste, waardoor het iets totaal ongepasts werd. De Voedselbank zegt :

Welkom bij de voedselbank van Ottawa

Elke dag zien we hoe honger mannen, vrouwen en kinderen treft en hoe het een barrière voor succes kan worden. Mensen die bij ons komen hebben een gezin en een baan om rekeningen mee te betalen. Het leven is al uitdagend genoeg. Stel je voor dat je het op een lege maag onder ogen ziet.

Samantha Koziara, de communicatiemanager bij de Ottawa Food Bank, gaf de volgende verklaring aan The Verge :

Onnodig te zeggen dat dit niet het soort berichten of ‘verhaal’ is dat we ooit zouden publiceren of waarin we zouden willen worden opgenomen

De regel ‘lege maag’ is duidelijk ongevoelig en is niet aan een (menselijke) redacteur voorbijgegaan. Voor zover ik weet, hebben we zoiets nog niet eerder gezien – maar naarmate AI steeds populairder wordt, twijfel ik er niet aan dat er meer onnauwkeurige / ongepaste verwijzingen zullen worden gemaakt in lijsten zoals deze. Dit benadrukt gewoon het belang van onderzoekers, schrijvers en redacteuren… van de menselijke soort.

“Dit artikel is verwijderd en we onderzoeken hoe het door ons beoordelingsproces is gekomen”, reageerde Jeff Jones, een Senior Director bij Microsoft, op The Verge. U kunt het echter nog steeds bekijken via de onderstaande gearchiveerde bronlink.

Bron en afbeelding: MSN ( Archief )