YouTube ha bandito permanentemente due canali – Screen Culture e KH Studio – per aver ripetutamente violato le sue politiche contro lo spam e i contenuti fuorvianti. Secondo quanto riferito da Deadline e CNET, le piattaforme sono state chiuse dopo aver sfruttato l’intelligenza artificiale per generare falsi trailer di film che inducevano gli spettatori a credere che fossero reali.
Portata e violazioni dei canali
I due canali, che operano dall’India e dalla Georgia, avevano accumulato un totale di 2 milioni di abbonati e oltre 1 miliardo di visualizzazioni prima di essere chiusi. YouTube ha sospeso per la prima volta la monetizzazione degli annunci su entrambi gli account all’inizio di quest’anno, quando sono stati inizialmente rilevati trailer fuorvianti. Un portavoce di YouTube, Jack Malon, ha dichiarato che i canali sono stati riammessi al Programma partner di YouTube dopo aver apportato correzioni. Tuttavia, hanno ripreso rapidamente le pratiche ingannevoli.
“Questi canali hanno apportato le correzioni necessarie per essere riammessi nel Programma partner di YouTube. Tuttavia, una volta nuovamente monetizzati, sono tornati a violare chiaramente le nostre norme sullo spam e sui metadati fuorvianti e, di conseguenza, sono stati chiusi dalla piattaforma.” – Jack Malon, portavoce di YouTube
Perché è importante
Questa azione sottolinea la crescente sfida della disinformazione generata dall’intelligenza artificiale sulle principali piattaforme. Sebbene gli strumenti di intelligenza artificiale possano essere utilizzati in modo creativo, gli autori malintenzionati li sfruttano sempre più per creare contenuti falsi credibili. L’incidente solleva dubbi sulla capacità di YouTube di rilevare e rimuovere costantemente tale materiale prima che raggiunga un vasto pubblico. Ciò è particolarmente rilevante in quanto i video generati dall’intelligenza artificiale diventano più realistici, rendendoli più difficili da distinguere dai contenuti autentici.
La rapida diffusione di trailer falsi dimostra quanto facilmente gli spettatori possano essere ingannati, danneggiando potenzialmente la fiducia nella legittima promozione dei film. La risposta di YouTube segnala la volontà di far rispettare le proprie politiche, ma l’incidente evidenzia anche la necessità di metodi di rilevamento più proattivi e di un’applicazione più rapida contro i contenuti ingannevoli generati dall’intelligenza artificiale.
La rimozione di questi canali funge da avvertimento per altri che tentano di sfruttare l’intelligenza artificiale per scopi fraudolenti sulla piattaforma.
