YouTube trvale pozastavil dva kanály – Screen Culture a KH Studio – kvůli opakovanému porušování zásad platformy ohledně spamu a zavádějících informací. Kanály byly uzavřeny poté, co útočníci použili umělou inteligenci k vytvoření falešných filmových upoutávek, čímž diváky oklamali, aby uvěřili, že jsou pravé, uvedly Deadline a CNET.
Pokrytí a porušení kanálů
Tyto dva kanály se sídlem v Indii a Gruzii měly před zákazem celkem 2 miliony odběratelů a více než 1 miliardu zhlédnutí. YouTube poprvé pozastavilo zpeněžení obou účtů začátkem tohoto roku, kdy byly poprvé objeveny klamavé upoutávky. Mluvčí YouTube Jack Malone uvedl, že kanály byly znovu přijaty do Partnerského programu YouTube po provedení oprav. Rychle se však vrátili ke klamavým praktikám.
„Tyto kanály provedly nezbytné opravy, aby mohly být znovu přijaty do Partnerského programu YouTube. Jakmile však začaly znovu zpeněžovat, vrátily se k očividnému porušování našich zásad týkajících se spamu a zavádějících metainformací a v důsledku toho byly z platformy odstraněny.“ – Jack Malone, ambasador YouTube
Proč je to důležité
Tento krok zdůrazňuje rostoucí problém dezinformací generovaných AI na hlavních platformách. Zatímco nástroje umělé inteligence lze využívat kreativně, útočníci je stále častěji využívají k vytváření přesvědčivého falešného obsahu. Incident vyvolává otázky ohledně schopnosti YouTube důsledně detekovat a odstraňovat takový materiál, než se dostane k širšímu publiku. To platí zejména s tím, jak se videa vygenerovaná umělou inteligencí stávají stále realističtějšími, což ztěžuje jejich odlišení od skutečného obsahu.
Šíření falešných upoutávek ukazuje, jak snadno mohou být diváci uvedeni v omyl, což potenciálně podkopává důvěru v legitimní propagaci filmů. Odpověď YouTube signalizuje ochotu dodržovat jeho pravidla, ale incident také zdůrazňuje potřebu aktivnějších metod odhalování a rychlejšího zastavení klamavého obsahu generovaného umělou inteligencí.
Odstranění těchto kanálů slouží jako varování pro ty, kteří se na platformě pokoušejí používat AI k podvodným účelům.
