Microsoft는 콘텐츠 무결성 도구를 EU에 도입하여 잘못된 정보에 맞서 싸우고 있습니다.

2024년은 선거가 있는 해로, 60개국 이상이 투표에 참여합니다. 그리고 이번에는 잘못된 정보가 최고조에 달했습니다. 가짜 뉴스, AI가 생성한 이미지, 비디오, 오디오 클립, 변조된 미디어가 큰 문제가 되었습니다. 이것이 바로 Microsoft의 콘텐츠 무결성이 중요한 부분입니다.

처음에 미국 정치 캠페인을 위해 출시된 Microsoft는 이제 콘텐츠 무결성 도구의 미리 보기 버전을 EU에 제공하고 있습니다. 이는 유권자가 온라인에서 자주 발견되는 잘못된 정보를 식별하는 데 도움이 될 것입니다.

또한 콘텐츠 무결성 도구는 온라인에서 제공되는 의심되는 잘못된 정보가 공식 채널에서 나온 것인지 아니면 AI를 사용하여 편집되었는지 확인하는 데 도움이 되므로 정치 캠페인과 뉴스룸에 도움이 될 것입니다.

정치 캠페인 및 뉴스룸에서는 원본 미디어에 콘텐츠 자격 증명을 첨부하여 소스를 확인하고 변조 시도를 식별할 수 있습니다. 콘텐츠 자격 증명이 추가되면 편집 기록을 통해 미디어에 대한 모든 변경 사항을 확인할 수 있습니다.

Microsoft의 공식 블로그에서는 콘텐츠 무결성의 세 가지 구성 요소를 열거합니다.

Microsoft의 공개 콘텐츠 무결성 웹사이트를 사용해 보세요.

그래서 Microsoft가 콘텐츠 무결성 웹사이트를 출시하자마자 우리는 그 신뢰성을 테스트할 생각을 했습니다. 결과는 그다지 인상적이지 않았습니다. 그러나 전 세계 대부분의 정치 캠페인이 아직 콘텐츠 자격 증명을 공식 미디어에 통합하지 않았다는 점을 고려하면 이는 처음에는 예상된 일이었습니다.

영국 총리 Rishi Sunak과 미국 대통령 Joe Biden의 공식 X(이전 Twitter) 핸들에서 이미지를 실행하면 공개적으로 사용 가능한 도구에 No Content Credentials Found가 표시됩니다.

그런 다음 Copilot에서 AI 생성 이미지를 실행했습니다. 이번에는 도구가 이미지 소스를 식별하고 AI 생성으로 라벨을 붙일 수 있었습니다.

더 많은 정치 캠페인, 후보자 및 뉴스룸이 미디어에 콘텐츠 자격 증명을 첨부함에 따라 Microsoft의 콘텐츠 무결성으로 인해 더 나은 결과를 얻을 것으로 기대합니다.

올해 초 발표된 CCDH(Center of Countering Digital Hate)의 보고서는 Microsoft의 AI 기반 도구가 선거 기간 동안 잘못된 정보를 퍼뜨리는 데 어떻게 사용되는지 설명합니다.

또한 Microsoft는 위협 행위자들이 자사의 AI 도구에 접근하는 것을 거부했지만, 특히 가장 큰 선거가 있는 해에 이것이 얼마나 효과적인지는 지켜봐야 합니다!

Microsoft의 콘텐츠 무결성을 사용해 보셨나요? 그렇다면 댓글 섹션에서 독자들과 리뷰를 공유하세요.

1. 정치 캠페인, 언론 기관, 선거 관리 공무원이 소유하고 권위 있는 콘텐츠에 콘텐츠 자격 증명을 추가할 수 있도록 사용하기 쉬운 비공개 웹 애플리케이션입니다.2. Truepic.3과 협력하여 개발된 스마트폰에서 실시간으로 콘텐츠 자격 증명을 추가하여 안전하고 인증된 사진, 비디오 및 오디오를 캡처하는 개인 모바일 애플리케이션입니다. 콘텐츠 자격 증명의 존재 여부에 대해 이미지, 오디오 또는 비디오를 확인할 수 있는 사실 확인자 및 일반 대중을 위한 공개 웹사이트입니다.