Rodiče už léta debatují o výhodách a nevýhodách zveřejňování fotografií svých dětí na internetu. Zatímco obavy z online zločinců a sběru dat existovaly vždy, nástup umělé inteligence (AI) přinesl do tohoto známého dilematu novou úroveň nebezpečí. Vzestup „nudifier“ aplikací poháněných generativní AI způsobuje, že mnoho rodičů přehodnocuje své internetové návyky.
Tyto aplikace mohou snadno generovat upřímné obrázky tváře kohokoli pomocí pouhé fotografie. Zpočátku se zdají neškodné, ale jejich následky jsou velmi alarmující. Snadný přístup – mnoho z nich nabízí bezplatné vyzkoušení – a cenová dostupnost činí tyto nástroje snadno přístupnými každému, kdo má přístup k internetu, včetně nezletilých. To vytváří děsivou vyhlídku: děti se mohou stát oběťmi i pachateli nechtěných a často traumatizujících „hluboce falešných“ obrázků.
Výzkumy ukazují, že zveřejňování fotografií dětí online je stále běžné, ačkoli jen čtvrtina rodičů od toho upouští kvůli obavám o soukromí. Potenciál zneužití umělé inteligence však vrhá temný stín na zdánlivě neškodný akt zveřejňování fotografií z dětství. Nedávný federální zákon kriminalizuje nechtěnou distribuci falešných erotických obrázků online, ale neřeší vytváření a širokou distribuci takových aplikací samotných.
Desítky „nudifier“ webů prosperují, některé vydělávají miliony dolarů ročně. Alexios Mantzarlis, spoluzakladatel společnosti Indicator, která studovala 85 takových stránek, vykresluje děsivý obrázek: „Je to všude,“ říká. “Každé dítě s přístupem k internetu může být oběť i pachatel.”
Snadné použití těchto aplikací zdůrazňuje základní zranitelnost našeho digitálního světa: používání umělé inteligence pro sobecký zisk. Zatímco umělá inteligence má obrovský potenciál přínosu, její zneužití představuje značné riziko pro osobní bezpečnost a pohodu, zejména pro zranitelné skupiny obyvatel, jako jsou děti. Tato nová hrozba vyžaduje kritické přehodnocení toho, jak se pohybujeme v online světě a jak chráníme náš nejcennější majetek – naše děti.
