Claude AI może ominąć każdy detektor, a to jest przerażające

Jak być może wiesz, w mieście pojawił się nowy model sztucznej inteligencji: nazywa się Claude 2 AI i w fascynujący sposób opiera się na swoim poprzedniku.

Z przyjemnością przedstawiamy Claude 2 , nasz nowy model. Claude 2 ma lepszą wydajność, dłuższe odpowiedzi i jest dostępny za pośrednictwem interfejsu API, a także nowej publicznej witryny beta, claude.ai . Pomyśl o Claude jako o przyjaznym, entuzjastycznym współpracowniku lub osobistym asystentze, którego można nauczyć naturalnego języka, aby pomóc Ci w wielu zadaniach.

Antropiczny

Claude 2 AI może ostatecznie przewyższyć ChatGPT i Bing AI, a jego statystyki są imponujące. Według Anthropic, Claude 2 uzyskał 76,5% w części wielokrotnego wyboru egzaminu adwokackiego. Jeśli chodzi o kodowanie, Claude 2 zdołał uzyskać wzrost o 71,2% z 56,0% w Codex HumanEval , teście kodowania w języku Python. Wygląda na to, że model jest również dość biegły w matematyce: w GSM8k, dużym zestawie problemów matematycznych w szkole podstawowej, Claude 2 uzyskał wynik 88,0%, co jest dość imponujące.

Jeśli chcesz go wypróbować, wystarczy zarejestrować się na oficjalnej stronie i przekonać się, jak to działa . Model nie różni się zbytnio od ChatGPT czy Bing AI, ale Anthropic twierdzi, że radzi sobie lepiej.

Jednakże, chociaż Claude 2 AI jest wydajnym narzędziem, model jest w stanie ominąć wykrywanie AI, a myślenie o konsekwencjach tego jest przerażające.

Claude AI omija detektory – dlaczego to takie straszne?

Teraz model może pisać teksty przypominające ludzi, które są w stanie ominąć detektory AI. Treść generowana przez model jest w stanie przejść przez detektory AI . Kiedy zawartość wygenerowana przez Claude 2 jest przekazywana detektorom AI, wykrywają one niewielką lub żadną obecność AI.

Jest to niepokojące ze względu na fakt, że ludzie mogą zacząć używać go do różnych celów, a na dłuższą metę model może całkowicie pokonać detektory AI. Będziesz więc mógł na przykład użyć Claude 2 do napisania pracy naukowej, a detektory AI nie wykryją niczego podejrzanego.

Może to prowadzić do wielu problemów, w tym poruszenia kwestii plagiatu i oryginalności, jeśli chodzi o AI.

Co więcej, możesz używać Claude 2 do zdawania egzaminów, ze względu na jego biegłość w kodowaniu, pisaniu i matematyce. Byłbyś w stanie skutecznie oszukiwać na egzaminach za pomocą narzędzia AI. Chociaż jest to tylko hipotetyczna sytuacja, implikacje są przerażające.

Co o tym sądzisz? Daj nam znać w sekcji komentarzy poniżej.