YouTube ha prohibido permanentemente dos canales, Screen Culture y KH Studio, por violar repetidamente sus políticas contra el spam y el contenido engañoso. Las plataformas se cerraron después de explotar la inteligencia artificial para generar avances de películas falsos que engañaban a los espectadores haciéndoles creer que eran reales, según informes de Deadline y CNET.
El alcance y las infracciones de los canales
Los dos canales, que operan en India y Georgia, habían acumulado 2 millones de suscriptores combinados y más de 1000 millones de visitas antes de ser cancelados. YouTube suspendió por primera vez la monetización de anuncios en ambas cuentas a principios de este año cuando se detectaron inicialmente los avances engañosos. Un portavoz de YouTube, Jack Malon, afirmó que los canales fueron readmitidos en el Programa de socios de YouTube después de realizar correcciones. Sin embargo, rápidamente retomaron prácticas engañosas.
“Estos canales hicieron las correcciones necesarias para ser readmitidos en el Programa de socios de YouTube. Sin embargo, una vez que volvieron a monetizarse, volvieron a infringir claramente nuestras políticas de spam y metadatos engañosos y, como resultado, fueron eliminados de la plataforma”. – Jack Malon, portavoz de YouTube
Por qué esto es importante
Esta acción subraya el creciente desafío de la desinformación generada por IA en las principales plataformas. Si bien las herramientas de inteligencia artificial se pueden utilizar de manera creativa, los actores malintencionados las aprovechan cada vez más para crear contenido falso creíble. El incidente plantea dudas sobre la capacidad de YouTube para detectar y eliminar sistemáticamente dicho material antes de que llegue a una gran audiencia. Esto es especialmente relevante a medida que los vídeos generados por IA se vuelven más realistas, lo que hace que sea más difícil distinguirlos del contenido auténtico.
La rápida difusión de avances falsos demuestra con qué facilidad se puede engañar a los espectadores, lo que podría dañar la confianza en la promoción cinematográfica legítima. La respuesta de YouTube indica su voluntad de hacer cumplir sus políticas, pero el incidente también resalta la necesidad de métodos de detección más proactivos y una aplicación más rápida contra el contenido engañoso generado por IA.
La eliminación de estos canales sirve como advertencia para otros que intentan explotar la IA con fines fraudulentos en la plataforma.
