YouTube apresenta ferramenta de rotulagem de conteúdo gerada por IA

O que saber

• O YouTube agora exige que os criadores divulguem quando seus vídeos contêm conteúdo alterado, sintético ou gerado por IA.
• Os criadores podem rotular vídeos com “Conteúdo alterado” na página “Detalhes” do YouTube Studio.
• Vídeos com conteúdo alterado, mas significativamente realista, que tenham o potencial de enganar ou confundir as pessoas, terão de ser rotulados como “alterados”.
• Vídeos com uso inconsequente de mídia sintética, como efeitos e filtros, ou que obviamente não sejam reais, como animação, não exigem o rótulo.

Acompanhando as tendências de maior transparência, o YouTube adicionou uma nova ferramenta no YouTube Studio que permitirá aos criadores divulgar quando os vídeos incluem mídia alterada ou sintética, bem como conteúdo gerado por IA.

Os criadores podem rotular seus vídeos como contendo ‘Conteúdo alterado’ na seção Detalhes ao enviar seus vídeos.

Os criadores são incentivados a divulgar conteúdo que:

• Faz uma pessoa real parecer dizer ou fazer algo que não fez.
• Altera a filmagem de um evento ou lugar real.
• Gera uma cena de aparência realista que na verdade não ocorreu.

Isso inclui qualquer conteúdo que seja total ou parcialmente alterado por meio de ferramentas de edição de imagem, áudio ou vídeo, bem como conteúdo gerado por IA.

Depois que um criador marca seu vídeo como tendo conteúdo alterado ou sintético, o rótulo será mostrado como parte das descrições do vídeo.

Isto visa encorajar a honestidade e a confiança entre os criadores e o público, ao mesmo tempo que reduz as falsificações profundas e a desinformação.

No entanto, observe que o YouTube não obriga os criadores a rotular seus vídeos como tal. Isso ocorre porque os criadores usam IA generativa de várias maneiras, e nem todas para fins nefastos. Vídeos onde o uso de mídia sintética é irrelevante, como quando se usam filtros, efeitos ou melhorias visuais, ou vídeos que são claramente irrealistas, como animações, não são obrigados a rotular seu conteúdo como tal.

Por outro lado, o YouTube deixou claro que qualquer vídeo que utilize conteúdo alterado que possa ser mal interpretado como real deve ter o rótulo. A única razão pela qual ainda não é obrigatório parece ser a dificuldade e a falta de confiabilidade das ferramentas de detecção de IA.

O blog do YouTube afirma que o YouTube “analisará medidas de fiscalização para criadores que optam consistentemente por não divulgar essas informações. Em alguns casos, o YouTube pode adicionar um rótulo mesmo quando o criador não o divulga, especialmente se o conteúdo alterado ou sintético tiver o potencial de confundir ou enganar as pessoas.”

Portanto, há riscos reais de não divulgar conteúdo alterado, especialmente se for significativamente realista, e pode muito bem levar a “penalidades do YouTube, incluindo remoção de conteúdo ou suspensão do Programa de Parcerias do YouTube”, conforme mencionado na página de suporte do Google .