La inteligencia artificial para la creación de imágenes, vídeos y sonido ha vivido un enorme evolución en los últimos años, tanto que todavía no hay una regulación clara sobre sus peligros y los problemas con derechos de autor. Youtube ha anunciado una primera medida para controlar el uso de contenido creado o manipulado con IA, especialmente si trata de confundir a los espectadores.
as generative AI unlocks new forms of creativity, we're introducing measures that balance innovation with our responsibility to protect the YouTube community 🛡️
learn more about upcoming changes to AI disclosures, privacy options, and more → https://t.co/fyvXZIdx6b— YouTube Creators (@YouTubeCreators) November 14, 2023
"Creemos que a todos nos interesa mantener un ecosistema saludable de información en Youtube", ha publicado la compañía de Google. Ya está prohibido publicar contenido manipulado que confunda a los usuarios, pero la IA es una nueva vía para contar historias que puede engañar si se presenta como algo real.
"Para solucionar esta preocupación, durante los próximos meses introduciremos actualizaciones que informen a los espectadores cuándo están viendo contenido sintético. Especialmente, pediremos a los creadores que aclaren cuándo han creado contenido alterado o sintético que es realista, incluyendo herramientas IA". Los usuarios tendrán la opción de indicar este origen, por ejemplo cuando se muestren eventos que nunca han sucedido o aparece una persona comentando algo que nunca ha dicho".
Un tema sensible en elecciones y conflictos
Youtube cita algunos momentos en los que este material podría ser problemático, como las fechas de unas elecciones. Los creadores que de manera reiterada no confirmen la naturaleza del contenido podrían ver los vídeos borrados o perder su participación en YouTube Partner Program, y habrá una nueva opción para que los espectadores pidan la retirada de estos vídeos que falseen imágenes o voces.
"Todavía estamos al inicio de este viaje para desbloquear nuevas formas de innovación y creatividad en Youtube con IA generativa", termina el comunicado en el blog oficial. "Nos tomamos un tiempo para equilibrar los beneficios con la seguridad de nuestra comunidad en este momento clave".
