YouTube heeft twee kanalen – Screen Culture en KH Studio – permanent verboden omdat ze herhaaldelijk hun beleid tegen spam en misleidende inhoud schenden. De platforms werden gesloten nadat ze AI hadden misbruikt om nep-filmtrailers te genereren die kijkers lieten geloven dat ze echt waren, volgens rapporten van Deadline en CNET.
Het bereik en de overtredingen van de kanalen
De twee kanalen, opererend vanuit India en Georgië, hadden in totaal 2 miljoen abonnees en meer dan 1 miljard views verzameld voordat ze werden beëindigd. YouTube heeft het genereren van inkomsten met advertenties eerder dit jaar voor het eerst opgeschort toen de misleidende trailers voor het eerst werden ontdekt. Een YouTube-woordvoerder, Jack Malon, verklaarde dat de kanalen na correcties opnieuw waren toegelaten tot het YouTube-partnerprogramma. Ze hervatten echter al snel misleidende praktijken.
“Deze kanalen hebben de nodige correcties aangebracht om opnieuw te worden toegelaten tot het YouTube-partnerprogramma. Toen ze echter weer inkomsten gingen genereren, gingen ze terug naar duidelijke schendingen van ons spam- en misleidende metadatabeleid, en als gevolg daarvan zijn ze van het platform verwijderd.” – Jack Malon, YouTube-woordvoerder
Waarom dit belangrijk is
Deze actie onderstreept de groeiende uitdaging van AI-gegenereerde desinformatie op grote platforms. Hoewel AI-tools creatief kunnen worden gebruikt, maken kwaadwillende actoren er steeds meer gebruik van om geloofwaardige nep-inhoud te creëren. Het incident roept vragen op over het vermogen van YouTube om dergelijk materiaal consequent te detecteren en te verwijderen voordat het een groot publiek bereikt. Dit is vooral relevant omdat door AI gegenereerde video’s realistischer worden, waardoor ze moeilijker te onderscheiden zijn van authentieke inhoud.
De snelle verspreiding van neptrailers laat zien hoe gemakkelijk kijkers kunnen worden misleid, wat mogelijk het vertrouwen in legitieme filmpromotie schaadt. De reactie van YouTube duidt op de bereidheid om zijn beleid af te dwingen, maar het incident benadrukt ook de behoefte aan proactievere detectiemethoden en snellere handhaving tegen misleidende, door AI gegenereerde inhoud.
De verwijdering van deze kanalen dient als waarschuwing voor anderen die proberen AI voor frauduleuze doeleinden op het platform te exploiteren.
