Guvernérka New Yorku Kathy Hochul se chystá navrhnout legislativu, která by omezila používání umělé inteligence (AI) v politických kampaních, včetně zákazu používání obrázků kandidátů generovaných umělou inteligencí bez jejich souhlasu. Cílem navrhovaných opatření, která mají být oznámena v jejím úterním projevu o stavu státu, je omezit šíření dezinformací v kritických 90 dnech před volbami.
Boj proti deepfakeům a dezinformacím ve volbách
Návrh zákona by zakázal záměrné šíření nepravdivých informací souvisejících s volbami, včetně nesprávných dat nebo časů. Tento krok přichází s tím, jak se obsah generovaný umělou inteligencí, včetně deepfakes, stává stále sofistikovanějším a přístupnějším. Hejtmanství uvádí, jak snadné je nyní pro útočníky manipulovat s veřejným míněním během voleb.
“Pro špatné herce je snazší než kdy předtím šířit dezinformace v kritických okamžicích, včetně těch, které by mohly rozhodnout o výsledku voleb,” řekl guvernér Hochul.
Obavy nejsou teoretické. V roce 2024 bývalý člen státního shromáždění v New Yorku Keith Wright veřejně prohlásil, že zvuková nahrávka, na které údajně dělá urážlivé poznámky, je hluboce falešná. Tento incident ukazuje, jak rychle se mohou dezinformace generované umělou inteligencí šířit a způsobit poškození pověsti.
Národní trend?
Kroky New Yorku jej řadí mezi první státy, které proaktivně řeší potenciální dopad AI na volby. Přestože federální vláda dosud neposkytla komplexní pravidla, mnoho volebních úředníků a zákonodárců po celých USA si tuto hrozbu stále více uvědomuje.
Rychlý rozvoj technologií umělé inteligence znamená, že tyto problémy budou stále aktuálnější. Kampaně nyní čelí nové autentizační výzvě a pro voliče může být obtížné odlišit skutečný obsah od obsahu generovaného umělou inteligencí.
Navrhovaný zákaz v New Yorku je důležitým krokem k ochraně demokratických procesů před novými technologickými hrozbami. Pokud bude úspěšná, mohla by se stát precedentem pro ostatní státy, které by stanovily přísnější standardy pro používání AI ve volbách po celé zemi.
