La plataforma de redes sociales de Elon Musk, X (anteriormente Twitter), ha tomado medidas para impedir que su chatbot de inteligencia artificial, Grok, genere imágenes explícitas o sexualizadas de personas reales en regiones específicas. El cambio se produce después de una condena internacional generalizada y un escrutinio regulatorio por la proliferación de contenido explícito generado por IA en la plataforma.
Investigaciones globales desencadenan respuesta
Durante la semana pasada, los reguladores de todo el mundo iniciaron investigaciones sobre las capacidades de Grok. Algunos países han prohibido rotundamente la aplicación, citando preocupaciones sobre su potencial de uso indebido. En Estados Unidos, los investigadores de California están examinando si Grok violó las leyes estatales en materia de imágenes no consensuales.
Ofcom, el organismo independiente de vigilancia de la seguridad en línea del Reino Unido, inició su propia investigación el lunes, lo que indica una grave amenaza legal para X. Según Ofcom, si X no cumple con sus solicitudes de acción, el regulador tiene la autoridad de buscar una orden judicial que podría cortar el procesamiento de pagos y los ingresos por publicidad para la plataforma. Se trata de una escalada significativa, ya que amenaza las operaciones financieras de X.
El geobloqueo como solución
X anunció el miércoles que implementará “bloqueo geográfico”, restringiendo la capacidad de Grok para cumplir con solicitudes de imágenes problemáticas en jurisdicciones donde dicho contenido es ilegal. Esto significa que los usuarios de ciertos países no podrán solicitar a la IA que cree imágenes explícitas de individuos reales.
Por qué esto es importante: El rápido desarrollo de herramientas de generación de imágenes mediante IA plantea nuevos desafíos para la moderación de contenidos y los marcos legales. Los reguladores ahora están compitiendo para adaptarse a la velocidad a la que evolucionan estas tecnologías, y empresas como X están bajo una presión cada vez mayor para hacer cumplir los estándares.
La respuesta de la plataforma subraya la creciente tensión entre la innovación, la libertad de expresión y el cumplimiento legal en la era de la IA. La reacción global demuestra que la generación desenfrenada de contenido explícito de IA ya no es una opción viable para las principales plataformas de redes sociales.
