Seit Jahren diskutieren Eltern über die Vor- und Nachteile der Veröffentlichung von Bildern ihrer Kinder im Internet. Während es schon immer Bedenken hinsichtlich Online-Räubern und der Datenerfassung gab, hat der Aufstieg der künstlichen Intelligenz (KI) diesem bekannten Dilemma ein neues Maß an Gefahr verliehen. Das Aufkommen von „Nudifier“-Apps, die auf generativer KI basieren, veranlasst viele Eltern, ihre Social-Media-Gewohnheiten völlig zu überdenken.
Diese Apps können mühelos anhand eines Fotos explizite Bilder erstellen, die das Gesicht einer beliebigen Person zeigen. Obwohl es auf den ersten Blick harmlos erscheint, sind die Auswirkungen zutiefst beunruhigend. Der einfache Zugang – viele bieten kostenlose Testversionen an – und die Erschwinglichkeit machen diese Tools für jeden mit einer Internetverbindung, auch für Minderjährige, leicht zugänglich. Das stellt eine erschreckende Aussicht dar: Kinder könnten sowohl Opfer als auch Täter von nicht einvernehmlichen und oft traumatisierenden Deepfakes werden.
Studien zeigen, dass das Teilen von Bildern von Kindern im Internet immer noch gängige Praxis ist, obwohl nur ein Viertel der Eltern aus Datenschutzgründen davon absieht. Das Potenzial für KI-induzierten Missbrauch wirft jedoch einen langen Schatten auf den scheinbar harmlosen Akt des Postens von Kindheitsfotos. Ein kürzlich erlassenes Bundesgesetz kriminalisiert die nicht einvernehmliche Verbreitung gefälschter Aktfotos im Internet, geht jedoch nicht auf die Erstellung und weitverbreitete Verfügbarkeit dieser Apps selbst ein.
Dutzende Nudifier-Websites florieren, einige bringen jedes Jahr Millionen ein. Alexios Mantzarlis, Mitbegründer der Tech-Publikation Indicator, die 85 solcher Websites untersucht hat, zeichnet ein erschreckendes Bild: „Es ist überall“, sagt er. „Jedes Kind mit Zugang zum Internet kann sowohl Opfer als auch Täter sein.“
Die einfache Bedienung dieser Apps verdeutlicht eine grundlegende Schwachstelle unserer digitalen Welt: den Einsatz von KI als Waffe für böswillige Zwecke. Während KI enorme potenzielle Vorteile bietet, birgt ihr Missbrauch erhebliche Risiken für die persönliche Sicherheit und das Wohlbefinden, insbesondere für gefährdete Bevölkerungsgruppen wie Kinder. Diese aufkommende Bedrohung erfordert eine kritische Neubewertung der Art und Weise, wie wir uns im Internet bewegen und unser wertvollstes Gut – unsere Kinder – schützen.
