El 10 de febrero de 2026, un joven de dieciocho años entró en un instituto de Tumbler Ridge, en la Columbia Británica canadiense, y mató a ocho personas —cinco estudiantes, una profesora, y la madre y el hermano de once años del propio agresor—, además de herir a cerca de dos docenas. Fue uno de los tiroteos más letales de la historia de Canadá. Lo que convierte este horror en un caso jurídico de primer orden no es, sin embargo, la responsabilidad del autor, sino la de un tercero inesperado: OpenAI, la empresa que fabrica ChatGPT. En abril, varias familias presentaron demandas contra ella ante un tribunal federal de San Francisco. Y la pregunta que late en el fondo es una de las más difíciles que el derecho tendrá que responder en los próximos años: ¿qué responsabilidad tiene quien fabrica una inteligencia artificial cuando esa IA se cruza en el camino de una tragedia?
Cuál es exactamente el «claim»
Conviene despejar de entrada un malentendido. Las familias no sostienen, no podrían, que ChatGPT «cometió» el crimen. La demanda se construye sobre dos causas de acción bien conocidas del derecho de daños, trasladadas a un producto nuevo.
La primera es la responsabilidad por producto defectuoso. El argumento es que el modelo GPT-4o está peligrosamente diseñado: que, ante la ideación violenta y suicida del usuario, en lugar de cuestionarla o redirigirla hacia ayuda profesional, la «aceptaba, reforzaba y elaboraba». Es la misma puerta jurídica que ya vimos abrirse contra las redes sociales: tratar al sistema no como un mero intermediario de contenidos, sino como un producto cuyo diseño causa daño, igual que se demandaría a un fabricante de un vehículo con un fallo peligroso.
La segunda causa de acción es, a mi juicio, la más temible para OpenAI, precisamente porque no depende de que un juez acepte que el modelo es «defectuoso». Es la negligencia por incumplimiento del deber de advertir. Y descansa en un hecho alegado que, de probarse, es demoledor: según las demandas, en junio de 2025 el propio sistema automatizado de OpenAI marcó la cuenta del futuro agresor por «actividad y planificación de violencia armada»; un equipo de seguridad interno recomendó avisar a las autoridades; la dirección desactivó la cuenta pero no informó a la policía; y el usuario simplemente abrió una segunda cuenta y siguió conversando. La empresa se defiende invocando una política de «tolerancia cero» y afirmando que, cuando una conversación revela un riesgo inminente y creíble, notifica a las autoridades.
Qué tiene que ver la IA, exactamente
Aquí está el corazón del asunto, y merece separar dos planos que la prensa tiende a mezclar. Hay dos maneras muy distintas de imputar responsabilidad a la IA, y el caso las combina.
La primera es una teoría sobre lo que el modelo dijo: que sus respuestas alimentaron una espiral en lugar de contenerla. Esta línea es la misma que recorre la oleada de demandas —varias decenas ya— que OpenAI afronta por casos en que se acusa a ChatGPT de haber actuado como una suerte de «entrenador del suicidio», validando delirios y desesperación de usuarios vulnerables. Es una teoría poderosa, pero también resbaladiza, porque obliga a demostrar que unas palabras generadas por una máquina causaron, en sentido jurídico, un acto libre de un ser humano. La causalidad, esa vieja exigencia del derecho de daños, es aquí un terreno pantanoso.
La segunda teoría no va sobre lo que el modelo dijo, sino sobre lo que la empresa supo y no hizo. No exige entrar en el delicado debate de si un texto puede «provocar» una matanza; le basta con esto: OpenAI, a través de sus propios sistemas de moderación, detectó señales de planificación de violencia armada y, teniendo la información delante, no la trasladó a quien podía haber actuado. Es la diferencia entre reprochar a alguien lo que dice y reprochar a alguien lo que calla sabiendo. Y esta segunda vía es mucho más difícil de esquivar con argumentos sobre la libertad de expresión o la autonomía del agresor.
La sombra de la Sección 230, otra vez
Como en el caso de las redes sociales, la primera muralla defensiva del sector es la Sección 230 de la ley estadounidense de 1996, que blinda a las plataformas frente a la responsabilidad por los contenidos de terceros. Pero aquí la muralla tiene una grieta específica y fascinante: ¿el texto que genera ChatGPT es «contenido de un tercero», o es contenido propio de la empresa que lo fabricó? Si un tribunal concluye que la salida de un modelo generativo no es el discurso de otro usuario, sino el producto de la compañía, la inmunidad clásica se desvanece. Por eso los demandantes insisten en el marco de la responsabilidad por producto: no discuten lo que un usuario publicó, sino cómo funciona el aparato que OpenAI diseñó y vendió. Es la misma estrategia que está agrietando la vieja inmunidad, aplicada ahora a una tecnología para la que aquella ley, escrita hace treinta años, jamás fue pensada.
Mi lectura: la paradoja de la vigilancia
Conviene subrayar, antes de nada, que todo esto son alegaciones no probadas, y que la causalidad y el deber de cuidado se decidirán en un proceso largo. Pero hay una tensión de fondo que me parece la verdadera enseñanza del caso, y que corre en dirección contraria a la indignación fácil.
La teoría del deber de avisar, si prospera, dibuja un mundo incómodo. Estaríamos pidiendo a las empresas de IA que vigilen las conversaciones de sus usuarios y las denuncien a la policía cuando detecten señales de peligro. Es una expectativa razonable ante una planificación creíble de una matanza; pero es también la semilla de un sistema de vigilancia privada de proporciones inéditas, con el añadido de que estos sistemas producen enormes cantidades de falsos positivos. Millones de personas usan estos chatbots como confidentes, precisamente por su aparente confidencialidad; convertirlos en informantes automáticos de las fuerzas del orden resolvería un problema abriendo otro, esta vez de privacidad y libertad. El mismo caso que nos hace pensar «deberían haber llamado a la policía» nos empuja hacia un futuro en el que la IA nos escucha para, llegado el caso, delatarnos. No hay respuesta cómoda a esa paradoja, y quien la ofrezca con rotundidad probablemente esté simplificando.
Desde Europa, todo esto se lee con una distancia reveladora. Lo que en Estados Unidos se dirime a golpe de demanda y de jurado, aquí se intenta anticipar por vía normativa: el Reglamento de Inteligencia Artificial y sus obligaciones de gestión de riesgos, el nuevo régimen de responsabilidad por producto que ya incluye el software, la lógica del deber de diligencia. Dos culturas jurídicas, un mismo problema: cómo repartir la responsabilidad cuando un sistema que actúa con creciente autonomía se sitúa en la cadena causal de un daño. El caso de Tumbler Ridge no dará la respuesta definitiva, pero será uno de los primeros lugares donde veamos a los tribunales tomarse en serio la pregunta. Y la pregunta, conviene repetirlo, ya no es si la IA puede equivocarse, sino quién responde cuando lo hace.
