Elon Musks Social-Media-Plattform X (ehemals Twitter) hat beschlossen, seinen KI-Chatbot Grok daran zu hindern, explizite oder sexualisierte Bilder von echten Menschen in bestimmten Regionen zu generieren. Die Änderung erfolgt nach weit verbreiteter internationaler Verurteilung und behördlicher Prüfung der Verbreitung von KI-generierten expliziten Inhalten auf der Plattform.
Globale Untersuchungen lösen Reaktion aus
In der vergangenen Woche haben Aufsichtsbehörden weltweit Untersuchungen zu den Fähigkeiten von Grok eingeleitet. Einige Länder haben die Anwendung mit der Begründung, sie könne missbraucht werden, gänzlich verboten. In den Vereinigten Staaten untersuchen kalifornische Ermittler, ob Grok gegen staatliche Gesetze bezüglich nicht einvernehmlicher Bilder verstoßen hat.
Die unabhängige Online-Sicherheitsaufsichtsbehörde des Vereinigten Königreichs, Ofcom, hat am Montag eine eigene Untersuchung eingeleitet, die auf eine ernsthafte rechtliche Bedrohung für Dies ist eine erhebliche Eskalation, da sie die Finanzgeschäfte von X gefährdet.
Geoblocking als Lösung
X gab am Mittwoch bekannt, dass es „Geoblocking“ einführen wird – wodurch Groks Fähigkeit eingeschränkt wird, Anfragen nach problematischen Bildern in Gerichtsbarkeiten zu erfüllen, in denen solche Inhalte illegal sind. Dies bedeutet, dass Benutzer in bestimmten Ländern die KI nicht dazu veranlassen können, eindeutige Bilder von echten Personen zu erstellen.
Warum das wichtig ist: Die rasante Entwicklung von KI-Bilderzeugungstools stellt neue Herausforderungen für die Inhaltsmoderation und die rechtlichen Rahmenbedingungen dar. Die Regulierungsbehörden versuchen nun, sich an die Geschwindigkeit anzupassen, mit der sich diese Technologien weiterentwickeln, und Unternehmen wie X stehen zunehmend unter Druck, Standards durchzusetzen.
Die Reaktion der Plattform unterstreicht die wachsende Spannung zwischen Innovation, freier Meinungsäußerung und Rechtskonformität im Zeitalter der KI. Die weltweite Gegenreaktion zeigt, dass die unkontrollierte Generierung expliziter KI-Inhalte für große Social-Media-Plattformen keine praktikable Option mehr ist.
