ChatGPTのエクスプロイトが研究で発見、ハッカーはあなたの会話をすべて読み取ることができる

ChatGPT と個人的な事柄を共有したり、個人情報が開示される質問をしたりした場合は、直ちに中止してください。最近の調査では、ChatGPT を含むチャットボットがハッキングされ、すべての会話/チャットが攻撃者にアクセスできる可能性があることが示唆されています。

イスラエルのベングリオン大学で行われた研究では、研究者らは、Google Geminiを除くほぼすべての人気のあるAIベースのチャットボットに存在するサイドチャネルエクスプロイトを発見し、100%ではないものの、会話全体を高精度で明らかにできる可能性があることを発見した。

Ars Technicaへの電子メールの中で、ベングリオン大学の攻撃的 AI 研究所の責任者、イスロエル・ミルスキー氏は次のように述べています。

研究者らが AI ベースのチャットボットの脆弱性を解明

この研究は複雑で、一般ユーザーにとっては理解するのが少し難しいです。簡単に言うと、研究者たちはサイドチャネルの脆弱性を悪用してトークン (LLM がユーザー入力を翻訳するのに役立つデータ) を取得し、それを使用して 55% の精度で会話を推測しました。

研究者らがサイドチャネル攻撃手法を利用したのは、システムを直接攻撃する代わりに、システムが共有する情報を不用意に収集できるためです。こうすることで、暗号化などの組み込みの保護プロトコルをバイパスできる可能性があります。

これらのトークンは、コンテンツをテキスト形式に翻訳できる、特別にトレーニングされた 2 つの LLM (Large Language Model) を通じて実行されました。手動でアプローチを行う場合、これは事実上不可能です。

ただし、チャットボットには独特のスタイルがあるため、研究者はプロンプトを効果的に解読できるように LLM を訓練することができました。 1 つの LLM は応答の最初の文を識別するようにトレーニングされ、もう 1 つはコンテキストに基づいて内部の文に取り組みました。

Ars Technica への電子メールでは、次のように説明されています。

この画期的な進歩は研究論文でも言及されています。

研究者らは、トラフィック傍受から応答推論までのプロセス全体のデモビデオをYouTubeで共有しました。

つまり、ChatGPT チャットは思ったほど安全ではなく、ハッカーに簡単に読まれてしまう可能性があります。 Google のチャットボットにはサイドチャネルエクスプロイトは存在しませんでしたが、研究者は以前に Gemini AI と Cloud Console をハッキングしました。

さらに、AI が主流になってからサイバー攻撃が大幅に増加しました。 Microsoft による最近のレポートでは、英国では87% の企業が AI を活用したサイバー攻撃に直面するリスクにさらされていることが示唆されています。

Microsoft の社長、ブラッド スミスもAI に関して同様の懸念を抱いており、即時規制を求めました。

AI の台頭についてどう思いますか?コメントセクションで読者と共有してください。

私たちは、AI アシスタント サービスで使用される LLM が独特の書き方を示し、トレーニング データのフレーズを繰り返す場合があることを観察しました。この考えは他の研究者も同様でした。この特性を認識することで、既知の平文攻撃と同様の攻撃を実行できるようになります。この方法には、公開データセットを使用するか、有料ユーザーとしてプロンプトを送信することによって、ターゲット LLM からの応答のデータセットをコンパイルすることが含まれます。このデータセットを使用して、推論モデルをさらに微調整できます。その結果、推論モデルはエントロピーを大幅に削減でき、場合によっては T からの応答 R を一言一句完全に予測することさえできます。

これは Wheel of Fortune のパズルを解こうとするようなものですが、短いフレーズではなく、段落全体のフレーズであり、登場人物は誰も明らかにされていません。ただし、AI (LLM) は長期的なパターンを観察することに非常に優れており、他のゲームの十分な例を考慮すると、これらのパズルを驚くべき精度で解くことができます。

現在、ChatGPT やその他のサービスから送信されたプライベート チャットは誰でも読むことができます。これには、クライアントと同じ Wi-Fi または LAN 上の悪意のある攻撃者 (同じコーヒー ショップなど)、さらにはインターネット上の悪意のある攻撃者 (トラフィックを観察できる人) が含まれます。この攻撃は受動的であり、OpenAI やそのクライアントが知らないうちに発生する可能性があります。 OpenAI は、この種の盗聴攻撃を防ぐためにトラフィックを暗号化しますが、私たちの調査によると、OpenAI の暗号化の使用方法には欠陥があり、そのためメッセージの内容が漏洩してしまいます。