Claude AI puede pasar por alto cualquier detector, y eso da miedo

Como sabrá, hay un nuevo modelo de IA en la ciudad: se llama Claude 2 AI y se basa en su predecesor de maneras fascinantes.

Tenemos el placer de anunciar Claude 2 , nuestro nuevo modelo. Claude 2 tiene un rendimiento mejorado, respuestas más largas y se puede acceder a través de API, así como un nuevo sitio web beta público, claude.ai . Piense en Claude como un colega amistoso y entusiasta o un asistente personal que puede recibir instrucciones en lenguaje natural para ayudarlo con muchas tareas.

antrópico

Claude 2 AI , podría terminar superando a ChatGPT y Bing AI, y sus estadísticas son impresionantes. Según Anthropic, Claude 2 obtuvo un 76,5 % en la sección de opción múltiple del examen de la abogacía. En codificación, Claude 2 logró obtener un 71,2 % más que un 56,0 % en el Codex HumanEval , una prueba de codificación de Python. Y parece que el modelo también es bastante competente en matemáticas: en GSM8k, un gran conjunto de problemas matemáticos de la escuela primaria, Claude 2 obtuvo una puntuación del 88,0 %, lo cual es bastante impresionante.

Si quieres probarlo, solo tienes que registrarte en el sitio oficial y comprobar por ti mismo cómo funciona . El modelo no es muy diferente de ChatGPT o Bing AI, pero Anthropic afirma que hace un mejor trabajo.

Sin embargo, aunque Claude 2 AI es una herramienta eficaz, el modelo también puede eludir la detección de IA, y da miedo pensar en las implicaciones de esto.

Claude AI eludiendo detectores: ¿por qué da miedo?

Ahora el modelo puede escribir textos similares a los humanos, que son capaces de pasar por alto los detectores de IA. El contenido generado por el modelo puede pasar los detectores de IA . Cuando el contenido generado por Claude 2 se entrega a los detectores de IA, detectan poca o ninguna presencia de IA en él.

Esto es preocupante debido al hecho de que las personas podrían comenzar a usarlo para todo tipo de propósitos y, a la larga, el modelo puede vencer por completo a los detectores de IA. Así podrá, por ejemplo, usar Claude 2 para escribir un trabajo académico, y los detectores de IA no encontrarán nada sospechoso.

Esto podría generar muchos problemas, incluido el tema del plagio y la originalidad en lo que respecta a la IA.

Además, puede usar Claude 2 para completar exámenes, debido a su competencia en codificación, escritura y matemáticas. Podría hacer trampa de manera eficiente en sus exámenes con una herramienta de inteligencia artificial. Si bien esta es solo una situación hipotética, las implicaciones son aterradoras.

¿Qué piensa usted al respecto? Háganos saber en la sección de comentarios.