ChatGPT no pondrá marca de agua en su texto por temor a perder usuarios

Qué saber

• OpenAI ya cuenta con un método de marca de agua de texto, aunque su lanzamiento está siendo “considerado” y debatido internamente.
• Informes recientes sugieren que la marca de agua en el texto no afecta la calidad de salida de ChatGPT y que el método sigue siendo robusto frente a la manipulación y paráfrasis locales.
• Pero OpenAI cree que las marcas de agua en el texto afectarán desproporcionadamente a quienes no hablan inglés, estigmatizarán el uso del chatbot de IA y disuadirán a los usuarios de usar ChatGPT.

Que los estudiantes utilicen ChatGPT para escribir tareas es una pesadilla para los profesores. Pero parece que OpenAI podría tener una forma de determinar si un texto determinado fue generado por ChatGPT o no.

Según The Wall Street Journal , OpenAI ya tiene un sistema para marcar con marca de agua el texto generado por ChatGPT, pero está considerando si lanzarlo, citando varios problemas y complejidades involucradas, y posiblemente desanimando a los usuarios que no quieren ser descubiertos usando texto generado por IA.

En una publicación de blog actualizada sobre su investigación sobre la detección de texto mediante IA, OpenAI afirma: “Nuestros equipos han desarrollado un método de marca de agua de texto que seguimos considerando mientras investigamos alternativas”.

Los métodos de marca de agua de texto no están exentos de problemas y complejidades y pueden afectar negativamente al contenido generado por IA. Pero la empresa afirma que su método de marca de agua de texto, desarrollado exclusivamente para el contenido generado por ChatGPT, es muy preciso y tiene tasas de falsos positivos muy bajas.

El método de marca de agua de texto funciona ajustando ligeramente la forma en que la IA selecciona las palabras y creando patrones predecibles de cómo aparecen las palabras y frases.

Si bien el método resulta eficaz contra la paráfrasis y la manipulación localizada, OpenAI señala que “es menos robusto contra la manipulación globalizada; como el uso de sistemas de traducción, la reformulación con otro modelo generativo o pedirle al modelo que inserte un carácter especial entre cada palabra y luego elimine ese carácter, lo que hace que sea fácil de eludir por parte de actores maliciosos”.

Para abordar estos problemas, OpenAI ha comenzado a trabajar en otro método de marca de agua que utiliza metadatos integrados y no produce falsos positivos, mientras que la marca de agua de texto puede generar más falsos positivos cuando se aplica a grandes volúmenes de texto.

Según su investigación, OpenAI también cree que el método de marca de agua de texto puede afectar desproporcionadamente a algunos grupos más que a otros y podría conducir a la estigmatización de los chatbots de IA entre hablantes no nativos.

Pero más que eso, la compañía teme que muchos usuarios actuales utilizarían ChatGPT menos si se implementaran los métodos de marca de agua. Por ahora, el debate interno sobre si lanzar o no el método de marca de agua de texto continúa. En cuanto al método alternativo de marca de agua de metadatos, OpenAI todavía está en las primeras etapas de exploración. Por lo tanto, es demasiado pronto para decir si el enfoque será efectivo o no.