ChatGPT nie będzie oznaczać swojego tekstu znakiem wodnym z obawy przed utratą użytkowników

Co wiedzieć

• OpenAI ma już metodę znakowania wodnego tekstu, choć jej udostępnienie jest obecnie „rozważane” i omawiane wewnętrznie.
• Według najnowszych raportów znakowanie wodne tekstu nie ma wpływu na jakość wyników ChatGPT, a metoda ta pozostaje odporna na lokalne manipulacje i parafrazowanie.
• Jednak OpenAI uważa, że ​​znakowanie wodne tekstu będzie miało nieproporcjonalnie duży wpływ na osoby nieanglojęzyczne, stygmatyzuje korzystanie z chatbota AI i zniechęca użytkowników do korzystania z ChatGPT.

Studenci używający ChatGPT do pisania prac domowych to koszmar dla nauczycieli i profesorów. Ale wygląda na to, że OpenAI może mieć sposób, aby stwierdzić, czy dany tekst został wygenerowany przez ChatGPT, czy nie.

Według The Wall Street Journal , OpenAI ma już system do znakowania wodnego tekstu generowanego przez ChatGPT. Ale rozważa, czy w ogóle go udostępnić, powołując się na kilka problemów i zawiłości, które są z tym związane, i potencjalnie odstraszając użytkowników, którzy nie chcą być wykrywani za pomocą tekstu generowanego przez AI.

W zaktualizowanym wpisie na blogu na temat badań nad wykrywaniem tekstu przez sztuczną inteligencję, OpenAI stwierdza: „Nasze zespoły opracowały metodę znakowania wodnego tekstu, którą nadal rozważamy w trakcie badania alternatyw”.

Metody znakowania wodnego tekstu nie są pozbawione problemów i złożoności i mogą negatywnie wpływać na treści generowane przez AI. Jednak firma twierdzi, że ich metoda znakowania wodnego tekstu, która została opracowana wyłącznie dla treści generowanych przez ChatGPT, jest bardzo dokładna i ma bardzo niskie wskaźniki fałszywych wyników pozytywnych.

Metoda znakowania wodnego tekstu polega na nieznacznej zmianie sposobu, w jaki sztuczna inteligencja wybiera słowa, i tworzeniu przewidywalnych wzorców wyświetlania słów i fraz.

Chociaż metoda ta okazuje się skuteczna w przypadku parafrazowania i lokalnej manipulacji, OpenAI zauważa, że ​​„jest ona mniej odporna na globalną manipulację; taką jak korzystanie z systemów tłumaczeniowych, przeformułowywanie za pomocą innego modelu generatywnego lub proszenie modelu o wstawianie znaku specjalnego między każde słowo, a następnie usuwanie tego znaku – co sprawia, że ​​obejście jej przez osoby trzecie jest łatwe”.

Aby rozwiązać te problemy, firma OpenAI rozpoczęła prace nad inną metodą znakowania wodnego, która wykorzystuje osadzone metadane i nie generuje wyników fałszywie dodatnich, podczas gdy znakowanie wodne tekstu może generować więcej wyników fałszywie dodatnich w przypadku stosowania go do dużych objętości tekstu.

Według badań OpenAI metoda znakowania tekstu znakiem wodnym może mieć nieproporcjonalnie większy wpływ na niektóre grupy niż na inne i może prowadzić do stygmatyzacji chatbotów opartych na sztucznej inteligencji wśród osób, dla których język obcy nie jest językiem ojczystym.

Ale co ważniejsze, firma obawia się, że wielu obecnych użytkowników korzystałoby z ChatGPT rzadziej, gdyby wdrożono metody znakowania wodnego. Na razie trwa wewnętrzna debata na temat tego, czy udostępnić metodę znakowania wodnego tekstu. Jeśli chodzi o alternatywną metodę znakowania wodnego metadanych, OpenAI jest wciąż na wczesnym etapie eksploracji. Jest więc za wcześnie, aby stwierdzić, czy podejście to będzie skuteczne, czy nie.