Platforma sociálních médií X (dříve Twitter) Elona Muska se rozhodla omezit svého AI chatbota Groka ve vytváření explicitních nebo sexualizovaných obrázků skutečných lidí v určitých regionech. Tato změna následuje po širokém mezinárodním odsouzení a regulační kontrole šíření explicitního obsahu generovaného umělou inteligencí na platformě.
Globální vyšetřování vedou k reakci
Během minulého týdne začali regulátoři po celém světě zkoumat Grokovy schopnosti. Některé země aplikaci přímo zakázaly s odkazem na obavy z jejího možného zneužití. Kalifornští vyšetřovatelé ve Spojených státech zkoumají, zda Grok neporušil státní zákony týkající se nepovolených snímků.
Britský nezávislý online hlídací pes Ofcom v pondělí zahájil vlastní vyšetřování, které představuje pro X velkou právní hrozbu. Ofcom uvedl, že pokud X nevyhoví jejich žádostem o opatření, regulátor má právo podniknout právní kroky, které by mohly vést k zastavení platebních transakcí a příjmů z reklamy pro platformu. Jde o významnou eskalaci, protože ohrožuje finanční aktivity X.
Geoblokování jako řešení
X ve středu oznámilo, že zavádí „geoblokování“, které omezuje Grokovu schopnost plnit požadavky na problematické obrázky v jurisdikcích, kde je takový obsah nezákonný. To znamená, že uživatelé v určitých zemích nebudou moci přinutit AI k vytvoření explicitních obrázků skutečných lidí.
Proč je to důležité: Rychlý vývoj nástrojů pro generování obrázků AI vytváří nové výzvy pro moderování obsahu a právní rámce. Regulátoři se nyní snaží přizpůsobit rychlosti, kterou tyto technologie postupují, a společnosti jako X jsou pod rostoucím tlakem, aby zajistily soulad s normami.
Odpověď platformy zdůrazňuje rostoucí napětí mezi inovacemi, svobodou projevu a dodržováním zákonů ve věku umělé inteligence. Globální kritika ukazuje, že nekontrolované vytváření explicitního obsahu pomocí umělé inteligence již není životaschopnou možností pro hlavní platformy sociálních médií.
