OpenAI vreest dat mensen emotioneel gehecht kunnen raken aan de spraakmodus van ChatGPT

Wat u moet weten

• In het System Card-rapport van GPT-4o wordt de bezorgdheid van OpenAI beschreven dat mensen emotioneel afhankelijk worden van de spraakmodus van ChatGPT.
• De stemmen in de spraakmodus van ChatGPT zijn zeer levensecht en wekken de illusie dat de gebruiker met een mens praat.
• Uit het rapport blijkt dat de spraakmodus voor sommige mensen nuttig kan zijn, maar dat het voor anderen juist een probleem kan zijn, omdat ze er in grote mate afhankelijk van zijn of te veel op de antwoorden vertrouwen.

De geavanceerde Voice Mode van ChatGPT zorgde voor ophef toen het voor het eerst werd aangekondigd. Maar volgens een recent veiligheidsrapport vreest OpenAI al dat de geavanceerde Voice Mode – die griezelig veel op een menselijke stem lijkt – ertoe kan leiden dat gebruikers emotioneel verslaafd raken aan de AI-chatbot.

De geavanceerde spraakmodus is een van de meest verwachte ChatGPT-functies. Het kan realtimegesprekken voeren, menselijke geluiden maken zoals ‘Umm’, ‘Ah’ en andere tussenwerpsels tijdens het praten, geluiden nabootsen, liedjes zingen en zelfs je emotionele staat bepalen op basis van je stemtoon. Simpel gezegd, het is de meest levensechte AI-assistent die er is. Maar omdat het zo’n krachtige en capabele functie is, heeft de spraakmodus van ChatGPT een groot potentieel voor misbruik.

OpenAI vermeldde in zijn rapport:

“Tijdens de eerste tests… zagen we gebruikers taal gebruiken die zou kunnen duiden op het vormen van verbindingen met het model. Dit omvat bijvoorbeeld taal die gedeelde banden uitdrukt, zoals “Dit is onze laatste dag samen”.

Voice Mode opent ook nieuwe manieren voor mensen om ChatGPT te ‘jailbreaken’ om allerlei dingen te doen, waaronder het imiteren van mensen. Een mensachtige conversationalist zijn zou mensen ook meer vertrouwen in AI-chatbots kunnen geven, zelfs als hun output vol zit met fouten en hallucinaties.

Interactie met ChatGPT’s Voice-modus kan “eenzame personen” ten goede komen en sommigen helpen hun angst voor sociale interacties te overwinnen. Maar uitgebreid gebruik kan ook gezonde relaties beïnvloeden en verdient verder onderzoek, merkt OpenAI op in zijn rapport.

Hoewel het rapport een groeiende transparantie van OpenAI signaleert, is het nog steeds niet zo open over zijn trainingsgegevens. Toegegeven, OpenAI’s angsten over wat uitgebreid gebruik van zijn Voice-modus zou kunnen opleveren, zijn niet ongegrond. Maar overmatige afhankelijkheid van technologie is ingebouwd in de meeste stukken technologie. En omdat het rechtstreeks uit een film komt, is het niet moeilijk om te zien wat de toekomst in petto heeft voor Voice Mode en hoe gebruikers ermee omgaan.

Zelfs op het demo-evenement werd de stemmodus als iets te flirterig beschouwd. Vanwege de gelijkenis van de Sky-stem met die van Scarlett Johansson en de controverse die daarop volgde, is het moeilijk om de film Her niet te noemen, en de risico’s die gepaard gaan met de antropomorfisering van AI-modellen.