YouTube presenta una herramienta de etiquetado de contenido generada por IA

Qué saber

• YouTube ahora requiere que los creadores revelen cuando sus videos contienen contenido alterado, sintético o generado por IA.
• Los creadores pueden etiquetar videos que tengan «Contenido modificado» desde la página «Detalles» de YouTube Studio.
• Los vídeos con contenido alterado pero significativamente realista que puedan inducir a error o confundir a las personas deberán etiquetarse como «alterados».
• Los vídeos con un uso intrascendente de medios sintéticos, como efectos y filtros, o aquellos que obviamente no son reales, como animaciones, no requieren la etiqueta.

Para mantenerse al día con las tendencias de mayor transparencia, YouTube ha agregado una nueva herramienta en YouTube Studio que permitirá a los creadores revelar cuándo los videos incluyen medios alterados o sintéticos, así como contenido generado por IA.

Los creadores pueden etiquetar sus videos como que contienen «Contenido modificado» en la sección Detalles mientras suben sus videos.

Se anima a los creadores a revelar contenido que:

• Hace que una persona real parezca decir o hacer algo que no hizo.
• Altera imágenes de un evento o lugar real.
• Genera una escena de aspecto realista que en realidad no ocurrió.

Esto incluye cualquier contenido que se modifique total o parcialmente mediante herramientas de edición de imágenes, audio o video, así como el contenido generado por IA.

Una vez que un creador marca su video como contenido modificado o sintético, la etiqueta se mostrará como parte de las descripciones del video.

Esto tiene como objetivo fomentar la honestidad y la confianza entre los creadores y la audiencia y, al mismo tiempo, reducir las falsificaciones y la desinformación.

Sin embargo, tenga en cuenta que YouTube no obliga a los creadores a etiquetar sus vídeos como tales. Esto se debe a que los creadores utilizan la IA generativa de varias maneras, y no todas con fines nefastos. Los vídeos en los que el uso de medios sintéticos no tiene consecuencias, como cuando se utilizan filtros, efectos o mejoras visuales, o vídeos que son claramente poco realistas, como animaciones, no están obligados a etiquetar su contenido como tal.

Por otro lado, YouTube ha dejado claro que cualquier vídeo que utilice contenido alterado que pueda ser malinterpretado como real debe tener la etiqueta. La única razón por la que aún no es obligatorio parece ser la dificultad y la falta de fiabilidad de las herramientas de detección de IA.

El blog de YouTube continúa afirmando que YouTube “considerará medidas de cumplimiento para los creadores que constantemente opten por no revelar esta información. En algunos casos, YouTube puede agregar una etiqueta incluso cuando un creador no la ha revelado, especialmente si el contenido alterado o sintético tiene el potencial de confundir o engañar a las personas”.

Por lo tanto, existen riesgos reales de no revelar contenido modificado, especialmente si es significativamente realista, y podría muy bien dar lugar a «sanciones por parte de YouTube, incluida la eliminación de contenido o la suspensión del Programa de socios de YouTube», como se menciona en la página de soporte de Google .