由於擔心失去用戶，ChatGPT 不會在其文字上添加浮水印

要知道什麼

• OpenAI 已經有了一種文字浮水印方法，儘管其發布正在「考慮」並在內部進行辯論。
• 最近的報告表明，水印文本不會影響 ChatGPT 的輸出質量，並且該方法對於本地篡改和釋義仍然具有穩健性。
• 但 OpenAI 認為文字浮水印會對非英語使用者產生不成比例的影響，使人工智慧聊天機器人的使用蒙受恥辱，並阻止用戶使用 ChatGPT。

學生使用 ChatGPT 來寫作業對老師和教授來說是一場噩夢。但看來 OpenAI 可能有辦法判斷給定文字是否由 ChatGPT 產生。

根據《華爾街日報》報道，OpenAI 已經擁有一個系統，可以為 ChatGPT 生成的文字添加浮水印。但它正在考慮是否要發布它，理由是涉及的幾個問題和複雜性，並可能推遲那些不想使用人工智慧生成的文本被發現的用戶。

OpenAI在一篇關於人工智慧文字檢測研究的更新部落格文章中指出：「我們的團隊已經開發了一種文字浮水印方法，我們在研究替代方案時會繼續考慮該方法」。

文字浮水印方法並非沒有問題和複雜性，並且可能會對人工智慧生成的內容產生負面影響。但該公司聲稱，他們的文字浮水印方法是專門為 ChatGPT 生成的內容開發的，非常準確，誤報率非常低。

文字浮水印方法的工作原理是稍微調整人工智慧選擇單字的方式，並創建單字和短語出現的可預測模式。

儘管該方法被證明可以有效防止釋義和局部篡改，但 OpenAI 指出「它對全局篡改的穩健性較差；例如使用翻譯系統，用另一個生成模型重新措辭，或者要求模型在每個單詞之間插入一個特殊字符，然後刪除該字符——這使得不良行為者的規避變得微不足道。

為了解決這些問題，OpenAI 已經開始研究另一種浮水印方法，該方法使用嵌入式元資料並且不會產生誤報，而文字浮水印在應用於大量文字時可能會導致更多誤報。

根據他們的研究，OpenAI 也認為文字浮水印方法對某些群體的影響可能比其他群體更大，並可能導致非母語人士對人工智慧聊天機器人的污名化。

但更重要的是，該公司擔心，如果實施浮水印方法，許多現有用戶將減少使用 ChatGPT。目前，內部關於是否發布文字浮水印方法的爭論仍在繼續。至於替代元資料浮水印方法，OpenAI仍處於早期探索階段。因此，現在判斷方法是否有效還為時過早。