Für viele Eltern war das Teilen von Fotos ihrer Kinder im Internet einst ein akzeptierter, ja sogar erwarteter Teil der Elternschaft. Aber eine neue Welle von Werkzeugen der künstlichen Intelligenz (KI) verändert die Rechnung und zwingt immer mehr Familien – wie meine – dazu, ihre Kinder ganz von sozialen Medien fernzuhalten.
Das Problem ist nicht neu: Bedenken hinsichtlich Online-Betrügern und der Datenerfassung gibt es schon lange im Zusammenhang mit „Sharenting“, der Praxis, Kinderfotos online zu teilen. Allerdings werden diese Befürchtungen jetzt durch eine erschreckend zugängliche Bedrohung in den Schatten gestellt: KI-gestützte „Nudifier“-Apps. Mit diesen Tools können hyperrealistische Fake-Nacktbilder von jedermann anhand von nur wenigen Schnappschüssen aus sozialen Medien erstellt werden.
Während viele Eltern möglicherweise bereits bei expliziten Inhalten vorsichtig sind, besteht hier eine doppelte Gefahr. Erstens ist die Technologie selbst erschreckend einfach und kostengünstig. Viele Nudifier-Apps bieten kostenlose Testversionen an, sodass sie auch Teenagern mit eingeschränktem Zugang zu Geldern leicht zugänglich sind. Zweitens haben diese gefälschten Bilder das gleiche emotionale Gewicht wie echte – ein Punkt, der durch Berichte von Schülern deutlich gemacht wird, die die Technologie gegen ihre Klassenkameraden einsetzen und ein immenses Trauma verursachen.
Das ethische Dilemma ist schwerwiegend: Die Veröffentlichung von Fotos Ihres Kindes im Internet könnte diese Waffe unbeabsichtigt befeuern. Selbst wenn Ihre Absicht harmlos ist, können diese Bilder aus dem Internet gerissen und auf eine Weise verwendet werden, die Sie sich nie hätten vorstellen können. Ein neues Bundesgesetz kriminalisiert das Teilen nicht einvernehmlicher gefälschter Aktfotos im Internet, trägt aber wenig dazu bei, die Ausbreitung dieser Apps im Internet einzudämmen. Dutzende Nudifier-Websites bringen jedes Jahr Millionen ein und demonstrieren ein klares Geschäftsmodell, das von unseren digitalen Ängsten angetrieben wird.
Alexios Mantzarlis, Gründer der Tech-Publikation Indicator, bringt die erschreckende Realität auf den Punkt: „Es ist überall. Jedes Kind mit Zugang zum Internet kann sowohl Opfer als auch Täter sein.“
Diese KI-gestützte Gefahr zwingt Eltern wie mich dazu, den scheinbar harmlosen Akt des Online-Teilens von Fotos zu überdenken. Es ist eine deutliche Erinnerung daran, dass sich die digitale Welt schneller entwickelt, als Gesetze und Ethik aufholen können, und dass wir in einer immer komplexer werdenden Landschaft Schwierigkeiten haben, unsere Kinder zu schützen.
