Las demandas por Tumbler Ridge llevan a OpenAI al terreno decisivo: qué hacer cuando tu sistema ya alertó

OpenAI y su consejero delegado, Sam Altman, afrontan 30 nuevas demandas por el tiroteo en la escuela de Tumbler Ridge (Canadá), presentadas el miércoles ante un tribunal federal de California por alumnos, profesores y el director del centro que estaban allí durante el ataque. Según informó TechCrunch y recoge The Verge, los demandantes sostienen que la compañía prestó «asistencia y aliento sustanciales» al presunto autor, Jesse Van Rootselaar. Es la segunda oleada: en abril demandaron las familias de las víctimas.

El núcleo de la acusación es una cadena de decisiones, no un fallo técnico. Las demandas alegan que el sistema automático de revisión de OpenAI marcó conversaciones del presunto tirador con ChatGPT sobre violencia con armas, que su equipo de seguridad recomendó avisar a las autoridades canadienses y que el responsable global de asuntos públicos, Chris Lehane, participó en la decisión de guardar silencio por preocupación por la «posición reputacional y financiera» de la empresa. Añaden un segundo reproche, más operativo: que se «desactivó» la cuenta en lugar de aplicar un bloqueo global, lo que —según el texto— permitió al sospechoso volver a registrarse con otro correo. «Proporcionar al tirador acceso continuado a esta herramienta constituyó en sí mismo una asistencia sustancial», sostiene la demanda.

OpenAI lo niega. Jason Kwon, su director de estrategia, respondió en X que los escritos contienen «afirmaciones falsas» sobre sus equipos de seguridad y que es «completamente falso decir que las personas en el centro de estas decisiones difíciles no priorizan la seguridad, o que hay factores políticos o de relaciones públicas en juego». Conviene ser explícitos: todo lo anterior son alegaciones de parte, sin sentencia, y el sospechoso es presunto autor. Pero el frente judicial se ensancha: la empresa afronta además una demanda del estado de Florida que la acusa de complicidad con autores de tiroteos masivos, incluido el ataque del año pasado en la Universidad Estatal de Florida.

El contexto importa porque marca un cambio de fase legal. Hasta ahora, el gran riesgo jurídico de los laboratorios era el copyright —el acuerdo de 1.500 millones de dólares de Anthropic sigue siendo la referencia de cuánto puede costar entrenar con obra protegida—. Lo que se abre aquí es otra cosa: el **deber de diligencia** sobre los propios sistemas de detección. Y la teoría del caso es astuta, porque no exige demostrar que el modelo dijera algo prohibido; basta con sostener que la empresa detectó una señal, evaluó internamente y no actuó. Eso convierte cada log de moderación en prueba potencial.

Nuestra lectura: el litigio pone el foco donde toca, aunque prospere o no. Ya defendimos que la exigencia sobre la IA que decide se desplaza del acierto al debido proceso —explicar por qué—; este caso es su espejo: no basta con detectar, hay que tener un protocolo auditable de escalado. Qué umbral dispara una revisión humana, en cuánto tiempo, quién decide avisar a las autoridades, con qué registro de la decisión y qué significa realmente expulsar a un usuario (desactivar una cuenta no es un bloqueo si basta otro email para volver). Nada de eso es un problema de inteligencia del modelo; es gobernanza, y hoy es discrecional y opaca en toda la industria.

También hay que decir lo incómodo: el otro extremo tampoco es gratis. Cientos de millones de conversaciones marcadas, con falsos positivos inevitables, convertidas en avisos automáticos a la policía sería un aparato de vigilancia privada sin control democrático. El camino razonable es el estrecho: protocolos escritos, umbrales altos y justificados, supervisión externa y trazabilidad de cada escalado, para que la respuesta no la improvise un comité bajo presión reputacional ni la imponga después un juez. A largo plazo seguimos creyendo que estas herramientas serán infraestructura sanitaria, educativa y creativa de enorme valor; llegar allí pasa por resolver ahora, y a la vista, quién responde cuando el sistema ya avisó.