マイクロソフトはEUにコンテンツ整合性ツールを導入し、誤情報対策を目指す

2024 年は選挙の年であり、60 か国以上で投票が行われます。そして今回は、誤情報がピークに達しています。フェイク ニュース、AI 生成の画像、ビデオ、オーディオ クリップ、改ざんされたメディアが大きな問題になっています。ここで Microsoft のコンテンツ整合性が役立ちます。

マイクロソフトは当初米国の政治キャンペーン向けにリリースされたコンテンツ整合性ツールのプレビュー版を現在 EU に提供しています。これにより、有権者はオンラインでよく見られる誤情報を特定できるようになります。

また、コンテンツ整合性ツールは、オンラインで入手可能な誤情報の疑いがある情報が公式チャンネルからのものか、AIを使用して編集されたものかを検証するのに役立つため、政治キャンペーンやニュースルームにも役立ちます。

政治キャンペーンやニュースルームは、コンテンツ認証情報を元のメディアに添付して、ソースを確認し、改ざんの試みを特定できます。コンテンツ認証情報が追加されると、メディアに加えられた変更は編集履歴を通じて確認できます。

Microsoft の公式ブログでは、コンテンツの整合性の 3 つのコンポーネントを列挙しています。

Microsoft の公開コンテンツ整合性 Web サイトを試す

そこで、マイクロソフトがコンテンツ整合性 Web サイトを立ち上げた直後に、その信頼性をテストすることにしました。結果はあまり印象的ではありませんでした。しかし、世界中のほとんどの政治キャンペーンがまだコンテンツ認証情報を公式メディアに統合していないことを考えると、当初は予想通りの結果でした。

英国のリシ・スナック首相と米国のジョー・バイデン大統領の公式X（旧Twitter）ハンドルの画像を実行すると、公開ツールは「コンテンツの認証情報が見つかりません」と表示した。

次に、Copilot から AI 生成画像を実行しました。今回は、ツールが画像のソースを識別し、AI 生成としてラベル付けすることができました。

より多くの政治キャンペーン、候補者、ニュースルームがコンテンツ認証情報をメディアに添付するにつれて、Microsoft のコンテンツ整合性からより良い結果が得られると期待しています。

今年初めに発表されたデジタルヘイト対策センター（CCDH）の報告書では、選挙中にマイクロソフトの AI ベースのツールがどのように誤情報を広めるために使用されているかが説明されている。

また、マイクロソフトは脅威アクターによる AI ツールへのアクセスを拒否していますが、特に最大の選挙の年である今、これがどれほど効果的であるかはまだわかりません。

Microsoft の Content Integrity を試しましたか? もし試したなら、コメント セクションで読者とレビューを共有してください。

1. 政治キャンペーン、報道機関、選挙管理官が所有する権威あるコンテンツにコンテンツ認証情報を追加できる、使いやすいプライベート Web アプリケーション。2. Truepic と提携して開発された、スマートフォンからリアルタイムでコンテンツ認証情報を追加することで、安全で認証された写真、ビデオ、オーディオをキャプチャするプライベート モバイル アプリケーション。3. ファクトチェッカーや一般の人々が、画像、オーディオ、ビデオにコンテンツ認証情報が含まれているかどうかを確認できるパブリック Web サイト。