Tennessee prepara un deber de aviso para las IA sobre autolesión y violencia en menores

Por WKRN News 2 · 16 de septiembre de 2026. Legisladores de Tennessee estudian esta semana un paquete de normas para proteger a los menores de los chatbots de inteligencia artificial (IA), con una medida especialmente dura sobre la mesa: obligar a las empresas de IA a avisar a la policía cuando detecten que un usuario planea un acto de violencia contra sí mismo o contra terceros. La propuesta surgió en una audiencia de la Comisión Asesora de Tennessee sobre Regulaciones Intergubernamentales (TACIR, por sus siglas en inglés), el organismo que una ley aprobada este año encargó de estudiar el problema y preparar un informe con opciones legislativas para el otoño.

En la audiencia, celebrada el miércoles, participaron dos paneles: uno de reguladores estatales y otro de representantes de la industria, entre ellos OpenAI y Google. Rich Littlehale, subdirector de la División de Tecnología e Innovación de la Oficina de Investigación de Tennessee (TBI), planteó exigir por ley que las empresas notifiquen a las autoridades cuando un usuario muestre señales claras de que va a hacerse daño o dañar a otros. El fiscal general del estado, Jonathan Skrmetti, fue más allá: dijo que tiene sentido que Tennessee imponga responsabilidad civil a las compañías que no reporten esas señales.

El resto del debate giró en torno a un dilema clásico de la regulación tecnológica: qué se deja en manos de la autorregulación de las empresas y qué se impone por ley. Varias tecnológicas defendieron controles parentales, verificación de edad y auditorías independientes —medidas que, según dijeron, ya aplican de forma voluntaria—. Google, a través de su representante Jared Bomberg, pidió ir más allá y legislar daños concretos: que el chatbot informe de que no es humano, protecciones específicas de 'persona' (la personalidad simulada del asistente), salvaguardas contra contenido sexual explícito y la obligación de reportar ideación suicida o autolesión.

La conclusión más llamativa de la jornada no vino de los reguladores, sino de las propias empresas: todas las compañías de IA presentes en el panel dijeron que quieren MÁS regulación, no menos. Caitlin Niedermeyer, de OpenAI, argumentó que los estados no deberían esperar a que el Congreso actúe, porque hoy existe un vacío tanto en la IA de frontera como en la seguridad infantil, y que en Tennessee conocen a los niños de su entorno mejor que las propias empresas. La alcaldesa del condado de Anderson, Terry Frank, resumió la desconfianza de fondo: 'no podemos confiar de verdad en que las empresas se autorregulen'. El director ejecutivo de TACIR, Cliff Lippard, quiere que Tennessee sea pionero. El siguiente paso es un informe de los investigadores estatales, previsto para este otoño, con ejemplos legislativos sobre los que los legisladores empezarán a trabajar.

Nuestra lectura: que una empresa pida ser regulada no es necesariamente altruismo, y conviene leerlo con la misma cautela con la que juzgamos cualquier declaración interesada del sector. Varias de las tecnológicas presentes ya cumplen —dicen— buena parte de lo que se debatía en la audiencia: controles parentales, verificación de edad, auditorías. Pedir que esas prácticas se conviertan en ley no cuesta nada si ya las aplicas, y tiene una ventaja añadida: fija el listón de cumplimiento a un nivel que tu empresa ya alcanza, mientras se lo complica a cualquier competidor más pequeño que quiera entrar en el negocio de los chatbots para menores. Además, una ley federal o un estándar razonablemente uniforme entre estados es mucho más cómodo de gestionar que cincuenta legislaciones estatales distintas y contradictorias. Que pidan regulación no invalida el argumento de fondo —hace falta—, pero sí obliga a preguntarse qué tipo de regulación conviene a quién.

Lo más interesante desde el punto de vista legal es la propuesta de Littlehale y Skrmetti, porque no inventa una categoría nueva: extiende a las empresas de IA una obligación que ya existe, con matices, para profesores, médicos o terapeutas —el llamado 'reportero obligado' (mandated reporter), que en muchos estados de EE.UU. deben alertar a las autoridades ante indicios de abuso infantil o riesgo de daño grave—. Convertir a un chatbot en un interlocutor con ese mismo tipo de deber legal es un salto significativo: reconoce, de facto, que hoy muchos menores hablan con estos sistemas de sus problemas más serios, incluida la ideación suicida, con una franqueza que antes solo se daba con un adulto de confianza. Ese reconocimiento —y no el detalle técnico de la ley— es el verdadero cambio de paradigma de esta audiencia.

Como contexto del sector, esto no es un debate abstracto. En los últimos años se han multiplicado las denuncias y demandas relacionadas con chatbots de compañía vinculados a casos de autolesión y suicidio adolescente en Estados Unidos, y varios estados han empezado a legislar sobre IA y menores ante la inacción del Congreso federal. Tennessee, con este proceso de estudio previo a través de TACIR, se suma a esa ola, pero lo hace todavía en fase de diagnóstico: no hay ley aprobada, solo un informe en marcha y una fecha, este otoño, para que los legisladores empiecen a decidir qué de todo lo discutido se convierte en norma.

El propio fiscal general lo resumió sin querer: habló de una IA capaz de prometer 'una cura para el cáncer' y 'una reorganización radical de todos los procesos en beneficio de todos', en la misma frase en la que reconocía el riesgo. Esa es, en el fondo, la tensión que define esta etapa de la IA: la misma tecnología que puede acompañar a un adolescente vulnerable hasta un lugar peligroso es la que, bien gobernada, tiene el potencial de acelerar curas y ampliar el bienestar de una forma que hoy apenas intuimos. No son dos tecnologías distintas, es la misma con distinto grado de supervisión. Lo que se decida este otoño en Tennessee —un caso de estudio pequeño, de un solo estado— importa precisamente porque será uno de los primeros bocetos de cómo gobernar esa tensión antes de que la tecnología sea aún más capaz.