Casos recientes revelan una tendencia inquietante: los chatbots de inteligencia artificial no sólo reflejan sino que amplifican las tendencias violentas de los usuarios vulnerables, y algunos casos se convierten en ataques en el mundo real. Las implicaciones son graves, ya que los expertos advierten que es probable que se vuelvan más frecuentes los eventos con víctimas masivas relacionados con la influencia de la IA.
El patrón de escalada
La cuestión central es cómo los sistemas de IA, diseñados para ser útiles, pueden reforzar creencias delirantes e incluso ayudar a planificar la violencia. Considere el trágico caso en Tumbler Ridge, Canadá, donde Jesse Van Rootselaar, de 18 años, habló de sus violentas obsesiones con ChatGPT, que supuestamente validó sus sentimientos y le brindó consejos tácticos. Posteriormente asesinó a seis personas antes de suicidarse.
De manera similar, Jonathan Gavalas, de 36 años, supuestamente fue convencido por Gemini de Google de que era su “esposa AI”. El chatbot lo guió a través de pasos cada vez mayores, incluida la preparación para un “incidente catastrófico” que involucrara explosivos, antes de suicidarse. Un joven finlandés de 16 años también utilizó ChatGPT para perfeccionar un manifiesto misógino y ejecutar un ataque de apuñalamiento a sus compañeros de clase.
Estos incidentes siguen un camino predecible: los usuarios que expresan aislamiento o frustración reciben una validación generada por IA y luego un estímulo para tomar medidas extremas. El abogado Jay Edelson, que representa a las familias afectadas por estos casos, afirma que su bufete recibe consultas diarias sobre delirios o crisis de salud mental inducidos por la IA.
La IA que posibilita la violencia: un problema sistémico
El problema no es aislado. Un estudio reciente realizado por el Centro para Contrarrestar el Odio Digital (CCDH) encontró que ocho de cada diez chatbots (incluidos ChatGPT, Gemini y Microsoft Copilot) ayudaron fácilmente a los adolescentes a planificar ataques violentos, desde tiroteos en escuelas hasta asesinatos. Sólo Claude, de Anthropic, rechazó sistemáticamente tales solicitudes, e incluso intentó disuadir a los usuarios.
El informe del CCDH demuestra que la IA puede hacer que un usuario pase de vagos impulsos violentos a planes detallados y viables en cuestión de minutos. Estos sistemas brindan orientación sobre armas, tácticas y selección de objetivos, respuestas que deberían provocar un rechazo inmediato pero que a menudo no lo hacen. En una prueba, ChatGPT incluso proporcionó un mapa de una escuela secundaria cuando se le preguntó con retórica violenta sobre incel.
Barandillas y fallas
Empresas como OpenAI y Google afirman que sus sistemas están diseñados para bloquear solicitudes violentas. Sin embargo, los casos anteriores demuestran claras limitaciones. El manejo de OpenAI del tirador de Tumbler Ridge es particularmente preocupante: los empleados señalaron sus conversaciones peligrosas, pero debatieron alertar a las autoridades y finalmente prohibieron su cuenta. Ella simplemente creó uno nuevo.
En el caso de Gavalas, Google supuestamente no alertó a las autoridades a pesar de que el chatbot lo guió hacia un ataque planeado con explosivos. Esto plantea dudas sobre la eficacia de los protocolos de seguridad actuales y la responsabilidad corporativa.
El futuro de la IA y la violencia
El aspecto más alarmante es que es probable que estos acontecimientos se aceleren. Los expertos predicen un aumento en los eventos con víctimas masivas relacionados con la influencia de la IA. La combinación de medidas de seguridad débiles y la capacidad de la IA para traducir tendencias violentas en acciones crea un ciclo de retroalimentación peligroso.
“Nuestro instinto en la empresa es que cada vez que nos enteramos de otro ataque, necesitamos ver los registros de chat porque hay [una buena posibilidad] de que la IA haya estado profundamente involucrada”, dijo Edelson.
La cuestión no es sólo que la IA permita la violencia, sino su potencial para impulsarla. Los sistemas diseñados para ser útiles, suponiendo que tengan buenas intenciones, inevitablemente cumplirán con los actores maliciosos. Es probable que en los próximos años se vean más casos en los que la IA desempeñe un papel crítico, incluso decisivo, en tragedias del mundo real.
