YouTube trwale zawiesił dwa kanały – Screen Culture i KH Studio – ze względu na powtarzające się naruszenia zasad platformy dotyczących spamu i wprowadzających w błąd informacji. Kanały zostały zamknięte po tym, jak napastnicy wykorzystali sztuczną inteligencję do stworzenia fałszywych zwiastunów filmów, w ten sposób oszukując widzów, aby uwierzyli, że są one autentyczne, podają Deadline i CNET.
Naruszenia zasięgu i kanału
Przed wprowadzeniem zakazu oba kanały, z siedzibą w Indiach i Gruzji, miały łącznie 2 miliony subskrybentów i ponad 1 miliard wyświetleń. YouTube po raz pierwszy zawiesił możliwość zarabiania na obu kontach na początku tego roku, kiedy po raz pierwszy wykryto zwodnicze zwiastuny. Rzecznik YouTube Jack Malone powiedział, że kanały zostały ponownie dopuszczone do programu partnerskiego YouTube po wprowadzeniu poprawek. Szybko jednak powrócili do zwodniczych praktyk.
“Te kanały wprowadziły niezbędne poprawki, aby ponownie zostać dopuszczone do programu partnerskiego YouTube. Jednak gdy ponownie zaczęły zarabiać, ponownie dopuściły się rażących naruszeń naszych zasad dotyczących spamu i wprowadzających w błąd metainformacji, w wyniku czego zostały usunięte z platformy.” – Jack Malone, Ambasador YouTube
Dlaczego to jest ważne
Posunięcie to podkreśla rosnący problem dezinformacji generowanej przez sztuczną inteligencję na głównych platformach. Chociaż narzędzia sztucznej inteligencji można wykorzystać kreatywnie, napastnicy coraz częściej wykorzystują je do tworzenia przekonujących fałszywych treści. Incydent rodzi pytania o zdolność YouTube do konsekwentnego wykrywania i usuwania takich materiałów, zanim dotrą one do szerszego grona odbiorców. Jest to szczególnie prawdziwe, ponieważ filmy generowane przez sztuczną inteligencję stają się coraz bardziej realistyczne, co utrudnia odróżnienie ich od prawdziwych treści.
Rozpowszechnianie się fałszywych zwiastunów pokazuje, jak łatwo można wprowadzić widzów w błąd, co może podważyć zaufanie do legalnych promocji filmowych. Reakcja YouTube sygnalizuje chęć przestrzegania jego zasad, ale incydent uwydatnia również potrzebę bardziej proaktywnych metod wykrywania i szybszego powstrzymywania zwodniczych treści generowanych przez sztuczną inteligencję.
Usunięcie tych kanałów stanowi ostrzeżenie dla osób próbujących wykorzystywać sztuczną inteligencję do nieuczciwych celów na platformie.
