Microsoft AI が旅行ガイドにオタワ フード バンクを掲載、「空腹で行くこと」を提案

人工知能 (AI) が知覚をもつようになるという主張や噂はありましたが ( Google のブレイク・ルモインを覚えていますか?)、マイクロソフトの AI による最近の失態は、まだそうではないことを確かに示唆しています。

カナダのオタワでの旅行ガイド「オタワへ向かう? Microsoft Travel の下で MSN 上の AI によって公開されたこのボットは、読者に NGO であるオタワ フード バンクを訪問することを提案しました。しかし、事態をさらに悪化させているのは、AI が読者に「空腹時に読み始める」ことを示唆していることです。この記事はパリス・マルクスによって発見され、 BlueskyとTwitterでも議論されました( Ars Technica経由)。

このセクションのスクリーンショットとともに書かれた内容は次のとおりです。

この団体は 1984 年以来、オタワ地域の貧しい人々や家族に食糧を収集、購入、生産し、届けています。私たちは、飢餓が男性、女性、子供たちに日常的にどのような影響を与えているか、そしてそれが達成への障壁となる可能性があるかを観察しています。 。私たちのところに来る人たちは、仕事や家族を養わなければならず、支払わなければならない費用を抱えています。人生はすでに十分に困難です。空腹時に参加することを検討してください。

ここで AI が本質的に行ったことは、オタワ フード バンクの説明にある言葉を紡ぐことでした。ただし、コンテキストを完全に見逃していたため、ボットが実際に何を出力しているのかまったくわからず、まったく不適切なものに変わってしまったことは明らかです。フードバンクは次のように述べています。

オタワフードバンクへようこそ

私たちは毎日、飢餓が男性、女性、子供たちにどのような影響を及ぼし、それが成功への障壁となり得るかを目にしています。私たちのところに来る人たちは、家族や仕事があり、支払いをしなければならない人たちです。人生は十分に挑戦的です。空腹の状態でそれに直面することを想像してください。

オタワフードバンクのコミュニケーションマネージャーであるサマンサ・コジアラ氏は、The Vergeに次のような声明を発表しました。

言うまでもなく、これは私たちが発信したり、それに含めることを望んでいるタイプのメッセージや「ストーリー」ではありません。

「胃が空っぽ」という行は明らかに無神経であり、（人間の）編集者は通過しませんでした。私の知る限り、これまでこのようなものは見たことがありません。しかし、AI の普及が進むにつれ、このようなリストで不正確または不適切な参照が増えることは間違いありません。これは単に、研究者、作家、編集者など、さまざまな人間の重要性を強調しているだけです。

「この記事は削除されており、どのようにしてレビュープロセスを通過したかを調査中です」とマイクロソフトのシニアディレクター、ジェフ・ジョーンズ氏はThe Vergeに答えた。ただし、以下のアーカイブされたソースのリンクから引き続き見ることができます。

ソースと画像: MSN (アーカイブ)