La plateforme de médias sociaux d’Elon Musk, X (anciennement Twitter), a décidé d’empêcher son chatbot IA, Grok, de générer des images explicites ou sexualisées de personnes réelles dans des régions spécifiques. Ce changement intervient après une condamnation internationale généralisée et un examen réglementaire minutieux de la prolifération du contenu explicite généré par l’IA sur la plateforme.
Les enquêtes mondiales déclenchent une réponse
Au cours de la semaine dernière, les régulateurs du monde entier ont lancé des enquêtes sur les capacités de Grok. Certains pays ont carrément interdit l’application, invoquant des inquiétudes quant à son potentiel d’utilisation abusive. Aux États-Unis, les enquêteurs californiens examinent si Grok a violé les lois de l’État concernant les images non consensuelles.
L’Ofcom, l’organisme indépendant de surveillance de la sécurité en ligne du Royaume-Uni, a lancé sa propre enquête lundi, signalant une menace juridique sérieuse pour X. Selon l’Ofcom, si X ne se conforme pas à ses demandes d’action, le régulateur a le pouvoir de demander une ordonnance du tribunal qui pourrait suspendre le traitement des paiements et les revenus publicitaires de la plateforme. Il s’agit d’une escalade significative, car elle menace les opérations financières de X.
Le géoblocage comme solution
X a annoncé mercredi qu’il mettrait en œuvre un « géoblocage » – limitant la capacité de Grok à répondre aux demandes d’images problématiques dans les juridictions où ce type de contenu est illégal. Cela signifie que les utilisateurs de certains pays ne pourront pas inciter l’IA à créer des images explicites d’individus réels.
Pourquoi est-ce important : Le développement rapide des outils de génération d’images IA pose de nouveaux défis pour la modération du contenu et les cadres juridiques. Les régulateurs s’efforcent désormais de s’adapter à la vitesse à laquelle ces technologies évoluent, et les entreprises comme X subissent une pression croissante pour faire respecter les normes.
La réponse de la plateforme souligne la tension croissante entre l’innovation, la liberté d’expression et le respect de la loi à l’ère de l’IA. La réaction mondiale démontre que la génération incontrôlée de contenu explicite d’IA n’est plus une option viable pour les principales plateformes de médias sociaux.
