Het sociale mediaplatform van Elon Musk, X (voorheen Twitter), heeft stappen gezet om zijn AI-chatbot, Grok, te beperken in het genereren van expliciete of geseksualiseerde afbeeldingen van echte mensen in specifieke regio’s. De verandering komt na wijdverbreide internationale veroordeling en toezicht door de toezichthouders op de verspreiding van door AI gegenereerde expliciete inhoud op het platform.
Mondiale onderzoeken leiden tot reactie
De afgelopen week zijn toezichthouders over de hele wereld onderzoeken gestart naar de capaciteiten van Grok. Sommige landen hebben de applicatie ronduit verboden, omdat ze zich zorgen maken over het potentieel voor misbruik. In de Verenigde Staten onderzoeken Californische onderzoekers of Grok de staatswetten met betrekking tot niet-consensuele beelden heeft overtreden.
De onafhankelijke onlineveiligheidswaakhond van het Verenigd Koninkrijk, Ofcom, startte maandag zijn eigen onderzoek, wat een ernstige juridische bedreiging voor X signaleerde. Volgens Ofcom heeft de toezichthouder, als X niet voldoet aan hun verzoeken om actie te ondernemen, de bevoegdheid om een gerechtelijk bevel te vragen dat de betalingsverwerking en advertentie-inkomsten voor het platform zou kunnen stopzetten. Dit is een aanzienlijke escalatie, omdat het de financiële activiteiten van X bedreigt.
Geoblocking als oplossing
X kondigde woensdag aan dat het ‘geoblocking’ zal implementeren – waardoor Grok’s vermogen wordt beperkt om te voldoen aan verzoeken om problematisch beeldmateriaal in rechtsgebieden waar dergelijke inhoud illegaal is. Dit betekent dat gebruikers in bepaalde landen de AI niet kunnen vragen om expliciete beelden van echte individuen te maken.
Waarom dit belangrijk is: De snelle ontwikkeling van AI-tools voor het genereren van afbeeldingen brengt nieuwe uitdagingen met zich mee voor contentmoderatie en wettelijke kaders. Toezichthouders haasten zich nu om zich aan te passen aan de snelheid waarmee deze technologieën zich ontwikkelen, en bedrijven als X staan onder toenemende druk om normen af te dwingen.
De reactie van het platform onderstreept de groeiende spanning tussen innovatie, vrijheid van meningsuiting en naleving van de wetgeving in het tijdperk van AI. Het wereldwijde verzet laat zien dat het ongecontroleerd genereren van expliciete AI-inhoud niet langer een haalbare optie is voor grote sociale-mediaplatforms.
