GoogleのAI概要はユーザーの質問に対して危険な回答を与える

Google は過去の失敗から学ばなかった。検索エンジンに追加された AI 概要機能は、最初から危険だった。知らない人もいるかもしれないが、このツールは簡単な質問に対して警告的な解決策を生成した。たとえば、あるユーザーが「ピザにチーズがくっつかない」と入力すると、その答えは無毒の接着剤を追加するというものだった。

誰かが石を何個食べるべきかと尋ねると、AI の概要は、少なくとも 1 日に小さな石を 1 個食べるようにと答えました。もっと突飛な答えもありますが、それらはさらに危険です。

Google の AI 概要機能が動作しないのはなぜですか?

Google の AI 概要機能は、プログラムされたとおりの動作をするため危険になりました。この機能は、Reddit、Quora、風刺サイトなど、さまざまなソースから収集した情報に基づいて回答を提供します。残念ながら、プレビュー段階では誰もこの問題に気づきませんでした。

さらに、Google はインターネット上に何が残っているかを最もよく知っているはずであり、AI がいかなるソースも使用することを禁止すべきです。結局のところ、Gemini はつい最近バグに見舞われ、同社は画像生成機能を削除し、他の機能を制限しました。

危険なだけでなく、ユーザーは AI オーバービュー機能を嫌っています。そのため、この機能をオフにする方法を紹介するビデオが多数あり、それらはわずか数分で完了します。

Googleの広報担当者はBusiness Insiderに対し、こうした結果はまれで、ほとんどの回答は高品質の情報を使用していると語った。しかし、それを信じるのは難しい。ユーザーは、AI概要機能によって提供されたさまざまな危険な解決策を共有した。たとえば、AIによると、犬はNHLでプレーしており、1919年は20年前だった。

結局のところ、Google の AI 概要機能は多少危険です。結局のところ、意味のある答えを探しているときに誤った情報に遭遇したい人は誰もいません。さらに、一部のビジネス オーナーは、この新機能によってユーザーが記事にあまり触れなくなる可能性があると不満を述べています。

AI 概要機能は危険だと思いますか? コメントでお知らせください。