O YouTube baniu permanentemente dois canais – Screen Culture e KH Studio – por violarem repetidamente suas políticas contra spam e conteúdo enganoso. As plataformas foram fechadas após explorar a IA para gerar trailers de filmes falsos que enganavam os espectadores fazendo-os acreditar que eram reais, de acordo com relatórios do Deadline e do CNET.
O alcance e as violações dos canais
Os dois canais, operando na Índia e na Geórgia, acumularam 2 milhões de assinantes e mais de 1 bilhão de visualizações antes de serem encerrados. O YouTube suspendeu pela primeira vez a monetização de anúncios em ambas as contas no início deste ano, quando os trailers enganosos foram inicialmente detectados. Um porta-voz do YouTube, Jack Malon, afirmou que os canais foram readmitidos no Programa de Parcerias do YouTube após fazer correções. No entanto, eles rapidamente retomaram práticas enganosas.
“Esses canais fizeram as correções necessárias para serem readmitidos no Programa de Parcerias do YouTube. No entanto, ao monetizarem novamente, eles voltaram a violar claramente nossas políticas de spam e metadados enganosos e, como resultado, foram encerrados da plataforma.” – Jack Malon, porta-voz do YouTube
Por que isso é importante
Esta ação sublinha o crescente desafio da desinformação gerada pela IA nas principais plataformas. Embora as ferramentas de IA possam ser usadas de forma criativa, os agentes mal-intencionados estão cada vez mais aproveitando-as para criar conteúdo falso verossímil. O incidente levanta questões sobre a capacidade do YouTube de detectar e remover consistentemente esse tipo de material antes que ele atinja um grande público. Isto é especialmente relevante à medida que os vídeos gerados por IA se tornam mais realistas, tornando-os mais difíceis de distinguir do conteúdo autêntico.
A rápida disseminação de trailers falsos demonstra a facilidade com que os espectadores podem ser enganados, prejudicando potencialmente a confiança na promoção legítima de filmes. A resposta do YouTube sinaliza a vontade de aplicar as suas políticas, mas o incidente também destaca a necessidade de métodos de detecção mais proativos e de aplicação mais rápida contra conteúdo enganoso gerado por IA.
A remoção desses canais serve como um alerta para outras pessoas que tentam explorar a IA para fins fraudulentos na plataforma.
