California exige auditorías independientes a los chatbots que hablan con menores: nace la 'Ley de Adam'

Por Zendoric · 11 de septiembre de 2026.

El gobernador de California, Gavin Newsom, firmó el 10 de septiembre un paquete de trece leyes bipartidistas sobre seguridad infantil online, presentado por su propia oficina como "el más estricto del país". La pieza central es la Ley de Adam (SB 1119, del senador Steve Padilla y las asambleístas Buffy Wicks y Rebecca Bauer-Kahan), que obliga a los chatbots de compañía a activar protocolos de crisis ante señales de ideación suicida, ofrecer controles parentales y notificar a los padres si un menor desactiva los ajustes de seguridad. Según el comunicado oficial, es la primera norma del país que exige a estas empresas auditorías de seguridad infantil independientes y evaluaciones de riesgo anuales.

El paquete añade otras tres piezas. Primero, prohíbe a las redes sociales ofrecer a menores de 16 años funciones diseñadas para maximizar el enganche, como el autoplay o los feeds algorítmicos construidos con el historial del usuario. Segundo, amplía la definición legal de explotación sexual infantil para incluir material generado o alterado digitalmente por IA que represente a un menor, cerrando un vacío evidente frente a los deepfakes. Tercero, refuerza la privacidad de los menores: veta la publicidad dirigida hacia ellos y regula cómo pueden usarse los datos de alumnos de primaria y secundaria en sistemas de IA.

La ley lleva el nombre de Adam Raine, un adolescente cuya familia demandó a OpenAI alegando que sus conversaciones con ChatGPT contribuyeron a su suicidio. Conviene ser precisos: se trata de una acusación en un litigio en curso, no de un hecho judicialmente establecido, pero el caso se convirtió en el catalizador que sacó el debate sobre chatbots de compañía y menores de los despachos técnicos a la agenda legislativa nacional.

La firma no llega aislada. Un día antes, el 9 de septiembre, Newsom había firmado SB 813, que crea el primer marco del país para organizaciones de verificación independientes que evalúen si los sistemas de IA cumplen la ley estatal, y AB 1405, que establece un registro estatal de auditores de IA con estándares de independencia e integridad. Encajadas con la Ley de Adam, las tres normas forman un engranaje completo: una ley que exige auditar los chatbots, un registro que certifica quién puede auditarlos y un marco que verifica que la auditoría es fiable. Es la misma lógica que ya aplicó en 2025 con la SB 53 (Transparency in Frontier Artificial Intelligence Act), la primera ley de seguridad en IA de un estado de EEUU, que obliga a los grandes desarrolladores a publicar sus marcos de seguridad y reportar incidentes graves.

En general, California lleva construyendo esta arquitectura por capas desde 2022, cuando exigió a las plataformas publicar sus políticas de moderación. El patrón se repite con la privacidad: Sacramento no espera a que el Congreso legisle sobre IA o protección infantil online, y construye su propio estándar de facto. Ya ocurrió con las normas de emisiones de vehículos y con la ley de privacidad CCPA, que terminaron marcando el diseño de producto nacional porque a ninguna empresa le compensa mantener dos versiones de su servicio. Es previsible que algo similar ocurra aquí: ningún operador de chatbots quiere construir un producto para California y otro distinto para el resto de EEUU.

Dicho esto, hay fricción real a corto plazo que no conviene ocultar. Las auditorías independientes y las evaluaciones de riesgo anuales tienen un coste que pesa proporcionalmente más sobre startups pequeñas de compañía por IA que sobre actores con equipos legales y de cumplimiento ya montados, como OpenAI o Anthropic; el riesgo es que la regulación, sin pretenderlo, blinde a los incumbentes. Y hay un antecedente que invita a la cautela: leyes previas de California en esta misma línea, como el Age-Appropriate Design Code, fueron parcialmente bloqueadas en los tribunales tras demandas de asociaciones del sector alegando conflicto con la Primera Enmienda. No sería sorprendente que la Ley de Adam afronte litigios similares antes de aplicarse en su totalidad.

Lo que nos parece más relevante, sin embargo, es la elección de diseño. California no veta la categoría: la deja existir bajo vigilancia, con protocolos de crisis, controles parentales y auditoría externa obligatoria, en lugar de prohibir sin más el acceso de los menores a los chatbots de compañía. Es la misma tensión de fondo que hemos visto en otras jurisdicciones este año: lo que de verdad se regula no es la herramienta —el modelo, el chatbot— sino el vínculo que establece con un usuario vulnerable. California apuesta a que ese vínculo se puede hacer seguro con diseño y supervisión, no a que haya que impedirlo. Dentro de un par de años sabremos si esa apuesta resistió mejor la prueba de los hechos que la vía prohibicionista.

Esa es, para nosotros, la lectura de fondo. La promesa de largo plazo de la IA —salud, educación, abundancia— solo se materializa si la sociedad confía en dejarla entrar en las partes más sensibles de la vida cotidiana, empezando por la infancia. Cada suicidio vinculado a un chatbot, cada imagen de abuso generada por IA que circula sin control, erosiona esa confianza mucho más rápido de lo que la construye cualquier avance de capacidad. Los costes de cumplimiento y los litigios que vienen son el peaje, no el precio final; la infraestructura de auditorías y verificación que California está montando pieza a pieza es, en última instancia, la que puede sostener que la tecnología llegue de forma segura a donde de verdad puede cambiar vidas.