ChatGPT는 사용자 손실을 우려해 텍스트에 워터마크를 표시하지 않습니다.

알아야 할 사항

• OpenAI는 이미 텍스트 워터마킹 방법을 보유하고 있지만, 이를 출시하는 것에 대해서는 내부적으로 ‘고려’되고 논의되고 있습니다.
• 최근 보고서에 따르면 텍스트에 워터마킹을 해도 ChatGPT의 출력 품질에 영향을 미치지 않으며 해당 방식은 로컬 변조 및 의역에 대해서도 여전히 강력한 것으로 나타났습니다.
• 하지만 OpenAI는 텍스트 워터마킹이 영어가 아닌 사용자에게 부정적인 영향을 미치고, AI 챗봇의 사용에 부정적인 영향을 미치며, 사용자가 ChatGPT를 사용하지 않게 만들 것이라고 생각합니다.

ChatGPT를 사용하여 과제를 쓰는 학생들은 교사와 교수에게 악몽입니다. ​​하지만 OpenAI는 주어진 텍스트가 ChatGPT에서 생성되었는지 아닌지 알 수 있는 방법이 있는 듯합니다.

월스트리트 저널 에 따르면 , OpenAI는 이미 ChatGPT에서 생성된 텍스트에 워터마크를 찍는 시스템을 보유하고 있습니다. 하지만 여러 가지 문제와 복잡성을 언급하며, AI가 생성한 텍스트를 사용하여 발각되는 것을 원하지 않는 사용자를 잠재적으로 미루면서 출시할지 여부를 고려하고 있습니다.

AI 텍스트 감지에 대한 연구에 대한 업데이트된 블로그 게시물 에서 OpenAI는 “저희 팀은 대안을 연구하면서 계속 고려하고 있는 텍스트 워터마킹 방법을 개발했습니다.”라고 밝혔습니다.

텍스트 워터마킹 방법은 문제와 복잡성이 없는 것은 아니며 AI에서 생성된 콘텐츠에 부정적인 영향을 미칠 수 있습니다. 하지만 이 회사는 ChatGPT에서 생성된 콘텐츠 전용으로 개발된 텍스트 워터마킹 방법이 매우 정확하고 거짓 양성률이 매우 낮다고 주장합니다.

텍스트 워터마킹 방법은 AI가 단어를 선택하는 방식을 약간 조정하고 단어와 구문이 나타나는 방식에 대한 예측 가능한 패턴을 만드는 방식으로 작동합니다.

OpenAI는 이 방법이 의역 및 지역화된 변조에 효과적임이 입증되었지만 “번역 시스템을 사용하거나 다른 생성 모델로 다시 표현하거나 모델에 모든 단어 사이에 특수 문자를 삽입한 다음 해당 문자를 삭제하도록 요청하는 것과 같은 글로벌화된 변조에 대해서는 덜 강력하여 악의적인 행위자가 우회하기가 쉽다”고 언급했습니다.

이러한 문제를 해결하기 위해 OpenAI는 내장된 메타데이터를 사용하고 거짓 긍정 결과를 생성하지 않는 또 다른 워터마킹 방법을 개발하기 시작했습니다. 반면 텍스트 워터마킹은 대량의 텍스트에 적용하면 거짓 긍정 결과가 더 많아질 수 있습니다.

OpenAI는 자체 조사에 따르면 텍스트 워터마킹 방식이 일부 그룹에 다른 그룹보다 더 큰 영향을 미칠 수 있으며, 모국어가 모국어가 아닌 사람들 사이에서 AI 챗봇에 대한 오명을 씌우는 결과를 초래할 수 있다고 생각합니다.

하지만 그보다 더 중요한 것은, 이 회사는 워터마킹 방법이 구현되면 현재 많은 사용자가 ChatGPT를 덜 사용할 것이라고 우려하고 있다는 것입니다. 현재로서는 텍스트 워터마킹 방법을 출시할지 여부에 대한 내부 논쟁이 계속되고 있습니다. 대체 메타데이터 워터마킹 방법에 관해서는 OpenAI가 아직 탐색 초기 단계에 있습니다. 따라서 이 접근 방식이 효과적일지 여부를 말하기에는 너무 이릅니다.