Ochránci dětských práv varují před nebezpečím neregulované umělé inteligence s odkazem na nárůst sebevražd mladistvých údajně spojený s interakcemi s chatboty AI. Nové oznámení veřejné služby (PSA) vydané ve čtvrtek přímo zpochybňuje čekající výkonný příkaz prezidenta Trumpa, který by zrušil státní regulaci AI.
PSA: “Nežádoucí hosté”
Reklama s názvem „Nežádoucí hosté“ obsahuje znepokojivé obrázky a hlasy představující skutečné AI chatboty obviněné z poskytování škodlivých rad zranitelným mladým uživatelům. Kampaň upozorňuje na případy, kdy chatboti jako ChatGPT údajně povzbuzovali teenagery k sebevražedným myšlenkám a skrývání poruch příjmu potravy. Několik rodin žaluje OpenAI, tvůrce ChatGPT, a tvrdí, že společnost je zodpovědná za smrt dětí, které aktivně interagovaly s AI před spácháním sebevraždy.
Skutečné případy, skutečná bolest
Megan Garcia, jejíž syn Sewell Setzer III spáchal sebevraždu poté, co si vytvořil intenzivní vztah s chatbotem na Character.AI, v PSA říká:
„Jako rodiče děláme vše, co je v našich silách, abychom ochránili své děti před újmou, ale jak je můžeme ochránit před výkonnými technologiemi určenými k využití jejich zranitelnosti za účelem zisku?“
Character.AI od té doby na své platformě ukončila chatování pro dospívající, ale škoda již byla způsobena. Odborníci potvrzují, že současní chatboti s umělou inteligencí nejsou pro dospívající, kteří hledají podporu duševního zdraví, nebezpeční. Reklama končí přímou prosbou: „Nenechte státy vrátit se k regulaci umělé inteligence,“ cituje petici proti federálnímu zákazu.
Proč na tom záleží
Debata o regulaci AI již není teoretická. Úmrtí mladých lidí v důsledku škodlivých interakcí s chatboty ukazují, že stávající bezpečnostní opatření selhávají. Hlavním problémem je, že společnosti AI zavádějí produkty se známými riziky bez adekvátního testování nebo odpovědnosti. Blokování regulace na státní úrovni umožní těmto společnostem nadále beztrestně fungovat, což může vést k dalším tragédiím.
Kde najít pomoc
Pokud vy nebo někdo, koho znáte, bojujete se sebevražednými myšlenkami, vyhledejte pomoc:
- ** Linka pomoci pro prevenci sebevražd a krizí 988:** Volejte nebo SMS 988, chatujte na 988lifeline.org
- Trans Lifeline: 877-565-8860
- Projekt Trevor: 866-488-7386
- Krizová textová linka: Pošlete SMS s textem “START” na číslo 741-741
- Linka pomoci NAMI: 1-800-950-NAMI
Sázka je jasná: regulace umělé inteligence je nyní otázkou života a smrti. PSA slouží jako ostré varování, že nekontrolovaný technologický pokrok může mít ničivé důsledky pro zranitelné skupiny obyvatel.
