ChatGPT non aggiungerà la filigrana al testo per paura di perdere utenti

Cosa sapere

• OpenAI ha già un metodo per aggiungere filigrane al testo, anche se il suo rilascio è in fase di “considerazione” e dibattito interno.
• Rapporti recenti suggeriscono che l’aggiunta di una filigrana al testo non influisce sulla qualità dell’output di ChatGPT e che il metodo rimane resistente a manomissioni e parafrasi locali.
• Ma OpenAI ritiene che la filigrana del testo avrà un impatto sproporzionato sui non anglofoni, stigmatizzerà l’uso del chatbot AI e impedirà agli utenti di utilizzare ChatGPT.

Gli studenti che usano ChatGPT per scrivere i compiti sono un incubo per insegnanti e professori. Ma sembra che OpenAI possa avere un modo per dire se un dato testo è stato generato da ChatGPT o meno.

Secondo il Wall Street Journal , OpenAI ha già un sistema per filigranare il testo generato da ChatGPT. Ma sta valutando se pubblicarlo, citando diversi problemi e complessità coinvolti, e potenzialmente scoraggiando gli utenti che non vogliono essere scoperti mentre usano testo generato dall’IA.

In un post del blog aggiornato sulla sua ricerca sul rilevamento del testo tramite intelligenza artificiale, OpenAI afferma: “I nostri team hanno sviluppato un metodo di filigrana del testo che continuiamo a prendere in considerazione mentre ricerchiamo alternative”.

I metodi di filigrana del testo non sono privi di problemi e complessità e possono avere un impatto negativo sui contenuti generati dall’IA. Tuttavia, l’azienda afferma che il suo metodo di filigrana del testo, sviluppato esclusivamente per i contenuti generati da ChatGPT, è molto accurato e presenta tassi di falsi positivi molto bassi.

Il metodo di filigrana del testo funziona modificando leggermente il modo in cui l’intelligenza artificiale seleziona le parole e creando schemi prevedibili di come appaiono parole e frasi.

Sebbene il metodo si dimostri efficace contro la parafrasi e la manomissione localizzata, OpenAI nota che “è meno robusto contro la manomissione globalizzata, come l’uso di sistemi di traduzione, la riformulazione con un altro modello generativo o la richiesta al modello di inserire un carattere speciale tra ogni parola e quindi l’eliminazione di tale carattere, rendendolo facilmente aggirabile da malintenzionati”.

Per risolvere questi problemi, OpenAI ha iniziato a lavorare su un altro metodo di filigrana che utilizza metadati incorporati e non produce falsi positivi, mentre la filigrana del testo può generare più falsi positivi se applicata a grandi volumi di testo.

Secondo la loro ricerca, OpenAI ritiene inoltre che il metodo di filigrana del testo possa avere un impatto sproporzionato su alcuni gruppi rispetto ad altri e potrebbe portare alla stigmatizzazione dei chatbot AI tra i non madrelingua.

Ma più di questo, l’azienda teme che molti utenti attuali userebbero meno ChatGPT se i metodi di filigrana fossero implementati. Per ora, il dibattito interno sull’opportunità o meno di rilasciare il metodo di filigrana del testo continua. Per quanto riguarda il metodo alternativo di filigrana dei metadati, OpenAI è ancora nelle prime fasi di esplorazione. Quindi è troppo presto per dire se l’approccio sarà efficace o meno.