Generální ředitel Instagramu Adam Mosseri varoval, že umělá inteligence rychle překonává lidské vnímání, a proto je stále obtížnější rozlišovat mezi skutečnými a upravenými obrázky. Ve svém hodnocení na konci roku Mosseri podrobně popsal, jak se platforma, tvůrci obsahu a výrobci fotoaparátů musí přizpůsobit budoucnosti, kde lze pravost snadno padělat. Nejde jen o estetiku; jde o základní důvěru, kterou uživatelé vkládají do vizuálního obsahu.
Ničení důvěry ve vizuální obsah
Mosseri zdůrazňuje zásadní posun: AI je nyní schopna bezchybně simulovat vybroušenou i syrovou estetiku, včetně nevzhledných obrázků. To znamená, že tradiční znaky pravosti, jako jsou nedokonalosti, se stávají nespolehlivé. Zpráva je jasná: platformy se budou muset přesunout z toho, co se zobrazuje, k tomu, kdo to zveřejňuje. Mosseri připouští, že přechod bude trvat roky, protože lidé jsou „geneticky náchylní věřit svým očím“.
Technologická řešení: Kryptografické podpisy a hodnocení pravosti
Pro boj se záplavou obsahu generovaného umělou inteligencí nabízí Mosseri dvě klíčová technologická řešení. Za prvé, výrobci fotoaparátů by měli implementovat kryptografické podpisy, aby vytvořili ověřitelný řetězec vlastnictví snímků. Tím se prokáže, zda byl snímek pořízen skutečným zařízením nebo vygenerován AI. Za druhé, Instagram by měl upřednostňovat „signály důvěry“ tím, že bude hodnotit původní obsah výše a jasně označit materiál vytvořený umělou inteligencí. Cílem není zastavit AI, ale udělat ji transparentní.
Paradox profesionality
Je zajímavé, že Mosseri kritizuje výrobce fotoaparátů za to, že soutěží o to, aby se amatérská fotografie stala profesionální. Tvrdí, že atraktivní, příliš zpracované obrázky se stávají méně poutavé ; publikum touží po autenticitě, i když to znamená nedokonalý vizuál. To naznačuje, že závody ve zbrojení směrem k hyperrealistickým obrázkům generovaným umělou inteligencí jsou sebezničující. Poptávka po „skutečném“ obsahu donutí umělou inteligenci napodobovat nedokonalost, což dále stírá hranici mezi autentickým a syntetickým.
Odpověď Instagramu: Závod s časem
Instagram vlastněný společností Meta již zakročil proti obsahu generovanému umělou inteligencí. Boj platformy odráží boj jiných gigantů sociálních médií, kde obsah generovaný umělou inteligencí a deepfakes potlačují organický obsah. Mosseri předkládá čtyřbodový adaptační plán:
- Vyvíjejte nástroje, které tvůrcům obsahu pomohou soutěžit s obsahem generovaným umělou inteligencí.
- Jasně označený obsah generovaný AI.
- Spolupracujte s výrobci na ověření pravosti ve fázi pořizování snímků.
- Vylepšete algoritmy hodnocení a odměňte originalitu.
„Instagram se bude muset vyvíjet mnoha způsoby a rychle,“ uzavírá Mosseri.
Nejedná se pouze o technickou výzvu; je to boj o důvěru v digitálním světě, kde vizuální důkazy již nejsou spolehlivé. Budoucnost sociálních médií závisí na tom, zda se platformy dokážou přizpůsobit, než uživatelé zcela ztratí důvěru v to, co vidí.
