ChatGPT zal zijn tekst niet van een watermerk voorzien uit angst om gebruikers te verliezen

Wat te weten

• OpenAI beschikt al over een methode voor tekstwatermerken, maar de release ervan wordt intern ‘overwogen’ en besproken.
• Uit recente rapporten blijkt dat het toevoegen van watermerken aan tekst geen invloed heeft op de uitvoerkwaliteit van ChatGPT en dat de methode bestand is tegen lokale manipulatie en parafrasering.
• OpenAI is echter van mening dat watermerken in teksten een onevenredig grote impact zullen hebben op niet-Engelstalige gebruikers, het gebruik van de AI-chatbot zullen stigmatiseren en gebruikers zullen afschrikken van het gebruik van ChatGPT.

Studenten die ChatGPT gebruiken om opdrachten te schrijven, is een nachtmerrie voor docenten en professoren. Maar het lijkt erop dat OpenAI een manier heeft om te bepalen of een bepaalde tekst is gegenereerd door ChatGPT of niet.

Volgens The Wall Street Journal heeft OpenAI al een systeem om tekst die door ChatGPT wordt gegenereerd te watermerken. Maar het overweegt om het überhaupt uit te brengen, waarbij het verschillende problemen en complexiteiten noemt die hierbij komen kijken, en mogelijk gebruikers afschrikt die niet ontdekt willen worden met behulp van door AI gegenereerde tekst.

In een bijgewerkte blogpost over het onderzoek naar AI-tekstdetectie stelt OpenAI: “Onze teams hebben een tekstwatermerkmethode ontwikkeld die we blijven overwegen terwijl we alternatieven onderzoeken”.

Methoden voor tekstwatermerken zijn niet zonder problemen en complexiteit en kunnen een negatieve impact hebben op de door AI gegenereerde content. Maar het bedrijf beweert dat hun methode voor tekstwatermerken, die exclusief is ontwikkeld voor door ChatGPT gegenereerde content, zeer nauwkeurig is en zeer lage false positive rates heeft.

Bij de tekstwatermerkmethode wordt de manier waarop de AI woorden selecteert enigszins aangepast en worden voorspelbare patronen gecreëerd in de manier waarop woorden en zinnen worden weergegeven.

Hoewel de methode effectief blijkt tegen parafraseren en lokale manipulatie, merkt OpenAI op dat “deze minder robuust is tegen globale manipulatie; zoals het gebruik van vertaalsystemen, het herformuleren met een ander generatief model, of het model vragen om een ​​speciaal teken tussen elk woord in te voegen en dat teken vervolgens te verwijderen – waardoor het voor kwaadwillenden eenvoudig is om dit te omzeilen.”

Om deze problemen aan te pakken, is OpenAI begonnen met het ontwikkelen van een andere watermerkmethode die gebruikmaakt van ingesloten metagegevens en geen vals-positieve resultaten oplevert. Tekstwatermerken kunnen daarentegen juist tot meer vals-positieve resultaten leiden als ze op grote hoeveelheden tekst worden toegepast.

OpenAI is van mening dat de methode voor het toevoegen van watermerken aan teksten een onevenredig grote impact kan hebben op bepaalde groepen en dat het kan leiden tot stigmatisering van AI-chatbots onder niet-moedertaalsprekers.

Maar meer dan dat, vreest het bedrijf dat veel huidige gebruikers ChatGPT minder zouden gebruiken als de watermerkmethoden zouden worden geïmplementeerd. Voorlopig gaat het interne debat over het al dan niet vrijgeven van de tekstwatermerkmethode door. Wat betreft de alternatieve metadatawatermerkmethode, OpenAI bevindt zich nog in de vroege stadia van verkenning. Het is dus te vroeg om te zeggen of de aanpak effectief zal zijn of niet.