Jarenlang hebben ouders gedebatteerd over de voor- en nadelen van het online plaatsen van foto’s van hun kinderen. Hoewel zorgen over online roofdieren en het verzamelen van gegevens altijd hebben bestaan, heeft de opkomst van kunstmatige intelligentie (AI) een nieuw niveau van gevaar in dit bekende dilemma geïnjecteerd. De opkomst van ‘nudifier’-apps, mogelijk gemaakt door generatieve AI, zet veel ouders ertoe aan hun sociale-mediagewoonten helemaal te heroverwegen.
Deze apps kunnen moeiteloos expliciete afbeeldingen genereren van iemands gezicht met alleen een foto. Hoewel ze op het eerste gezicht onschuldig lijken, zijn de implicaties zeer verontrustend. Dankzij de gemakkelijke toegang (vele bieden gratis proefversies aan) en de betaalbaarheid zijn deze tools gemakkelijk beschikbaar voor iedereen met een internetverbinding, inclusief minderjarigen. Dit biedt een angstaanjagend vooruitzicht: kinderen kunnen zowel slachtoffer als dader worden van niet-consensuele en vaak traumatiserende deepfakes.
Uit onderzoek blijkt dat het online delen van foto’s van kinderen nog steeds gebruikelijk is, hoewel slechts een kwart van de ouders dit vanwege privacyoverwegingen niet doet. Het potentieel voor door AI gegenereerd misbruik werpt echter een lange schaduw over de ogenschijnlijk onschuldige daad van het plaatsen van kinderfoto’s. Een recente federale wet criminaliseert de niet-consensuele verspreiding van nep-naaktfoto’s online, maar gaat niet in op de creatie en wijdverbreide beschikbaarheid van deze apps zelf.
Tientallen nudifier-websites floreren, waarvan sommige jaarlijks miljoenen binnenhalen. Alexios Mantzarlis, mede-oprichter van technologiepublicatie Indicator, die 85 van dergelijke sites heeft onderzocht, schetst een huiveringwekkend beeld: “Het is overal”, zegt hij. “Elk kind met toegang tot internet kan zowel slachtoffer als dader zijn.”
Het gemak waarmee deze apps werken benadrukt een fundamentele kwetsbaarheid in onze digitale wereld: de bewapening van AI voor kwaadaardige doeleinden. Hoewel AI enorme potentiële voordelen biedt, brengt het misbruik ervan aanzienlijke risico’s met zich mee voor de persoonlijke veiligheid en het welzijn, vooral voor kwetsbare bevolkingsgroepen zoals kinderen. Deze opkomende dreiging maakt een kritische herbeoordeling noodzakelijk van de manier waarop we door online ruimtes navigeren en onze meest waardevolle bezittingen beschermen: onze kinderen.
