Od lat rodzice debatują nad zaletami i wadami publikowania zdjęć swoich dzieci w Internecie. Choć obawy związane z przestępcami internetowymi i gromadzeniem danych istniały od zawsze, pojawienie się sztucznej inteligencji (AI) wniosło nowy poziom zagrożenia do tego znanego dylematu. Coraz większa liczba aplikacji typu „nudifier” wykorzystujących generatywną sztuczną inteligencję zmusza wielu rodziców do ponownego przemyślenia swoich nawyków internetowych.
Te aplikacje mogą z łatwością generować autentyczne obrazy dowolnej twarzy za pomocą samego zdjęcia. Na pierwszy rzut oka wydają się nieszkodliwe, jednak ich konsekwencje są bardzo niepokojące. Łatwość dostępu — wiele z nich oferuje bezpłatne wersje próbne — i przystępna cena sprawiają, że narzędzia te są łatwo dostępne dla każdego, kto ma dostęp do Internetu, w tym nieletni. Stwarza to przerażającą perspektywę: dzieci mogą stać się zarówno ofiarami, jak i sprawcami niechcianych i często traumatycznych „głęboko fałszywych” obrazów.
Badania pokazują, że publikowanie zdjęć dzieci w Internecie jest nadal powszechne, chociaż tylko jedna czwarta rodziców powstrzymuje się od tego ze względu na obawy dotyczące prywatności. Jednak potencjał nadużyć AI rzuca cień na pozornie nieszkodliwy akt publikowania zdjęć z dzieciństwa. Niedawne prawo federalne kryminalizuje niechcianą dystrybucję fałszywych obrazów erotycznych w Internecie, ale nie reguluje kwestii tworzenia i powszechnego rozpowszechniania takich aplikacji.
Prosperują dziesiątki witryn typu „nudifier”, a niektóre zarabiają miliony dolarów rocznie. Alexios Mantzarlis, współzałożyciel Indicator, który zbadał 85 takich stron, rysuje przerażający obraz: „To jest wszędzie” – mówi. „Każde dziecko mające dostęp do Internetu może być zarówno ofiarą, jak i sprawcą”.
Łatwość korzystania z tych aplikacji uwypukla podstawową słabość naszego cyfrowego świata: wykorzystanie sztucznej inteligencji do samolubnego zysku. Chociaż sztuczna inteligencja ma ogromny potencjał korzyści, jej niewłaściwe wykorzystanie stwarza poważne ryzyko dla bezpieczeństwa osobistego i dobrostanu, szczególnie w przypadku bezbronnych grup społecznych, takich jak dzieci. To nowe zagrożenie wymaga krytycznej ponownej analizy tego, jak poruszamy się po świecie online i chronimy nasze najcenniejsze aktywa – nasze dzieci.
