Obrazy generowane przez #AI zagrażają autentyczności na Instagramie
Dyrektor generalny Instagrama, Adam Mosseri, ostrzegł, że sztuczna inteligencja szybko wyprzedza ludzką percepcję, przez co coraz trudniej jest rozróżnić obrazy prawdziwe od sfabrykowanych. W swojej ocenie na koniec roku Mosseri szczegółowo opisał, w jaki sposób platforma, twórcy treści i producenci aparatów muszą dostosować się do przyszłości, w której autentyczność będzie łatwo podrabiana. Nie chodzi tylko o estetykę; chodzi o podstawowe zaufanie, jakie użytkownicy pokładają w treściach wizualnych.
Niszczenie zaufania do treści wizualnych
Mosseri podkreśla kluczową zmianę: AI jest teraz w stanie bezbłędnie symulować zarówno dopracowaną, jak i surową estetykę, w tym nieestetyczne obrazy. Oznacza to, że tradycyjne oznaki autentyczności, takie jak niedoskonałości, stają się zawodne. Przesłanie jest jasne: platformy będą musiały przejść od co jest pokazywane do kto to publikuje. Mosseri przyznaje, że przejście zajmie lata, ponieważ ludzie są „genetycznie predysponowani do wiary we własne oczy”.
Rozwiązania technologiczne: podpisy kryptograficzne i ocena autentyczności
Aby przeciwdziałać zalewowi treści generowanych przez sztuczną inteligencję, Mosseri oferuje dwa kluczowe rozwiązania technologiczne. Po pierwsze, producenci aparatów powinni wdrożyć podpisy kryptograficzne w celu ustanowienia weryfikowalnego łańcucha własności obrazów. Dzięki temu udowodnimy, czy obraz został przechwycony przez prawdziwe urządzenie, czy wygenerowany przez sztuczną inteligencję. Po drugie, Instagram powinien nadać priorytet „sygnałom zaufania”, umieszczając wyżej oryginalne treści i wyraźnie oznaczając materiały wygenerowane przez sztuczną inteligencję. Celem nie jest zatrzymanie sztucznej inteligencji, ale uczynienie jej przejrzystą.
Paradoks profesjonalizmu
Co ciekawe, Mosseri krytykuje producentów aparatów za konkurowanie o profesjonalizację fotografii amatorskiej. Twierdzi, że atrakcyjne, nadmiernie przetworzone obrazy stają się mniej angażujące ; widzowie pragną autentyczności, nawet jeśli oznacza to niedoskonałą oprawę wizualną. Sugeruje to, że wyścig zbrojeń w stronę hiperrealistycznych obrazów generowanych przez sztuczną inteligencję ma charakter samobójczy. Zapotrzebowanie na „prawdziwe” treści zmusi sztuczną inteligencję do naśladowania niedoskonałości, jeszcze bardziej zacierając granicę między autentycznością a sztucznością.
Odpowiedź Instagrama: Wyścig z czasem
Instagram będący własnością meta już rozprawia się z treściami generowanymi przez sztuczną inteligencję. Walka platformy przypomina walkę innych gigantów mediów społecznościowych, gdzie treści generowane przez sztuczną inteligencję i deepfake tłumią treści organiczne. Mosseri przedstawia czteropunktowy plan adaptacji:
- Opracuj narzędzia, które pomogą twórcom treści konkurować z treściami generowanymi przez sztuczną inteligencję.
- Wyraźnie oznacz treść wygenerowaną przez sztuczną inteligencję.
- Współpracuj z producentami, aby zweryfikować autentyczność na etapie przechwytywania obrazu.
- Ulepsz algorytmy rankingowe, aby nagradzać oryginalność.
„Instagram będzie musiał ewoluować pod wieloma względami i szybko” – podsumowuje Mosseri.
To nie tylko wyzwanie techniczne; to walka o zaufanie w cyfrowym świecie, w którym dowody wizualne nie są już wiarygodne. Przyszłość mediów społecznościowych zależy od tego, czy platformy będą w stanie się dostosować, zanim użytkownicy całkowicie stracą zaufanie do tego, co widzą.
