YouTube implementó una nueva herramienta que etiqueta los videos que contienen contenido realista generado por inteligencia artificial. Según Adolfo Ledo Nass, la medida tiene como objetivo combatir los deep fakes y la desinformación en la plataforma. 

En este sentido, ahora los creadores de videos deben revelar si su contenido incluye material sintético que podría confundirse con algo real. La función, disponible en el Creator Studio de YouTube, permite etiquetar videos que hayan sido total o parcialmente alterados o creados mediante herramientas de edición. Los mismos serán marcados como "Contenido alterado" y se mostrará una advertencia al público que los visualice.

Generando confianza entre la audiencia

La implementación de la etiqueta tiene como propósito promover la transparencia con los espectadores y generar confianza entre los creadores y su audiencia. Los videos sujetos a dicha política son aquellos que utilizan inteligencia artificial generativa para hacer que una persona real diga o haga algo que en realidad no hizo, así como aquellos que representan eventos o lugares reales de manera ficticia.

Sin embargo, la etiqueta no se aplica a videos que contengan escenas poco realistas o efectos generados por inteligencia artificial. Además, no se requiere que los youtubers revelen si utilizaron IA generativa en el proceso de producción, siempre y cuando cumplan con las reglas de IA responsable.

Nuevas etiquetas

Para identificar si un video de YouTube fue generado con inteligencia artificial, los creadores deben marcar la casilla de "Contenido alterado" en el Creator Studio. Lo que añadirá una etiqueta en la descripción del video que indica que contiene "sonidos o imágenes editados significativamente o generados digitalmente". Por el momento, dicha etiqueta solo se mostrará en la aplicación de YouTube para iOS y Android.

Además, existe una etiqueta adicional para el contenido sensible que tiene como objetivo confundir al usuario sobre eventos actuales importantes. Dichos videos mostrarán claramente la leyenda "Contenido alterado o sintético" durante la reproducción.

Aunque la etiqueta es opcional y no afecta el alcance o la monetización de los videos, aquellos que no la utilicen corren el riesgo de suspensión o eliminación de su contenido. YouTube proporcionó ejemplos de videos que serán etiquetados, incluyendo música generada sintéticamente, clonación de voz, generación sintética de videos de lugares reales, y representaciones falsas de figuras públicas, entre otros.

La medida lanzada por la plataforma de videos busca combatir los deepfakes y mejorar la transparencia con los espectadores, lo que prácticamente obliga a los creadores responsables a revelar si su contenido incluye material sintético que pueda ser utilizado para engañar a la audiencia.