ChatGPTはユーザーを失うことを恐れてテキストに透かしを入れない

知っておくべきこと

• OpenAI にはすでにテキスト透かしの手法があるが、そのリリースは「検討中」であり、社内で議論されている。
• 最近の報告によると、テキストに透かしを入れても ChatGPT の出力品質には影響がなく、この方法はローカルでの改ざんや言い換えに対して堅牢なままであることが示唆されています。
• しかし、OpenAI は、テキスト透かしが英語を母国語としない人々に不釣り合いな影響を与え、AI チャットボットの使用に汚名を着せ、ユーザーが ChatGPT を使用しなくなると感じています。

学生が ChatGPT を使用して課題を書くことは、教師や教授にとって悪夢です。しかし、OpenAI は、特定のテキストが ChatGPT によって生成されたかどうかを判断する方法を持っているようです。

ウォール・ストリート・ジャーナルによると、OpenAIはすでにChatGPTで生成されたテキストに透かしを入れるシステムを持っているという。しかし、いくつかの問題や複雑さが伴うこと、そしてAI生成テキストを使っていることを発見されたくないユーザーを遠ざける可能性があることを理由に、リリースするかどうかさえ検討中だという。

OpenAI は、AI テキスト検出に関する研究に関する最新のブログ投稿で次のように述べています。「私たちのチームはテキスト透かしの方法を開発しました。代替案を研究しながら、引き続き検討していきます。」

テキスト透かしの方法には問題や複雑さがないわけではなく、AI 生成コンテンツに悪影響を与える可能性があります。しかし、同社は、ChatGPT 生成コンテンツ専用に開発されたテキスト透かしの方法は非常に正確で、誤検出率も非常に低いと主張しています。

テキスト透かしの方法は、AI が単語を選択する方法をわずかに調整し、単語やフレーズの表示方法の予測可能なパターンを作成することによって機能します。

この方法は言い換えや局所的な改ざんに対しては効果的であることが証明されているが、OpenAIは「翻訳システムの使用、別の生成モデルによる言い換え、またはモデルに各単語の間に特殊文字を挿入するように要求してからその文字を削除するなど、グローバルな改ざんに対してはそれほど堅牢ではないため、悪意のある人物による回避は容易である」と指摘している。

これらの問題に対処するため、OpenAI は埋め込みメタデータを使用し、誤検知を生成しない別の透かし方法の開発に着手しました。一方、テキスト透かしは大量のテキストに適用すると誤検知が増える可能性があります。

OpenAI の調査によると、テキスト透かしの手法は一部のグループに他のグループよりも不均衡な影響を与え、非ネイティブ スピーカーの間で AI チャットボットの汚名を着せることにつながる可能性があるとも感じています。

しかしそれ以上に、同社は、透かし方式が実装された場合、現在のユーザーの多くが ChatGPT をあまり使用しなくなることを懸念しています。今のところ、テキスト透かし方式を公開するかどうかについての内部討論は続いています。代替のメタデータ透かし方式については、OpenAI はまだ調査の初期段階にあります。そのため、このアプローチが効果的かどうかを判断するのは時期尚早です。