Claude AI kan alle detectoren omzeilen, en dat is eng

Zoals je misschien weet, is er een nieuw AI-model in de stad: het heet Claude 2 AI en het bouwt op fascinerende manieren voort op zijn voorganger.

We zijn verheugd om Claude 2 aan te kondigen , ons nieuwe model. Claude 2 heeft verbeterde prestaties, langere reacties en is toegankelijk via API en een nieuwe openbare bètawebsite, claude.ai . Zie Claude als een vriendelijke, enthousiaste collega of persoonlijke assistent die in natuurlijke taal geïnstrueerd kan worden om u met veel taken te helpen.

Antropisch

Claude 2 AI zou uiteindelijk beter kunnen presteren dan ChatGPT en Bing AI, en de statistieken zijn indrukwekkend. Volgens Anthropic scoorde Claude 2 76,5% op het meerkeuzegedeelte van het balie-examen. Wat betreft coderen slaagde Claude 2 erin om een ​​stijging van 71,2% te behalen ten opzichte van 56,0% op de Codex HumanEval , een Python-coderingstest. En het lijkt erop dat het model ook behoorlijk bedreven is in wiskunde: op GSM8k, een groot aantal rekenproblemen op de lagere school, scoorde Claude 2 een score van 88,0%, wat behoorlijk indrukwekkend is.

Als je het wilt proberen, hoef je je alleen maar aan te melden op de officiële site en zelf te zien hoe het werkt . Het model verschilt niet veel van ChatGPT of Bing AI, maar Anthropic beweert dat het beter werkt.

Hoewel Claude 2 AI een krachtige tool is, kan het model ook AI-detectie omzeilen, en het is eng om na te denken over de implicaties hiervan.

Claude AI omzeilt detectoren – waarom is het eng?

Nu kan het model mensachtige teksten schrijven, die AI-detectoren kunnen omzeilen. Inhoud die door het model wordt gegenereerd, kan de AI-detectoren passeren . Wanneer de door Claude 2 gegenereerde inhoud aan AI-detectoren wordt gegeven, detecteren ze er weinig tot geen AI-aanwezigheid in.

Dit is zorgwekkend omdat mensen het voor allerlei doeleinden kunnen gaan gebruiken en op de lange termijn kan het model de AI-detectoren volledig verslaan. Zo kun je bijvoorbeeld Claude 2 gebruiken om een ​​academische paper te schrijven en vinden de AI-detectoren niets verdachts.

Dit kan tot veel problemen leiden, waaronder het aan de orde stellen van plagiaat en originaliteit als het om AI gaat.

Bovendien kun je Claude 2 gebruiken om examens af te leggen, vanwege zijn vaardigheid in coderen, schrijven en rekenen. Met een AI-tool zou je efficiënt je examens kunnen spieken. Hoewel dit slechts een hypothetische situatie is, zijn de implicaties beangstigend.

Wat denk jij ervan? Laat het ons weten in de comments hieronder.