¿Quién paga cuando la IA hace daño? La batalla legal silenciosa que ordenará la industria más que la carrera de modelos

LA TESIS. La batalla que definirá la industria de la IA no se libra en los benchmarks, sino en los juzgados. Mientras el foco mediático sigue la carrera de modelos, tribunales, legisladores y aseguradoras están respondiendo a la pregunta que de verdad ordena un mercado: ¿quién paga cuando esto falla? Nuestra tesis es que la respuesta ya se está escribiendo y va en una dirección clara: la IA se está tratando como un producto que puede ser defectuoso, no como un altavoz protegido por la libertad de expresión ni como un ente autónomo al que echarle la culpa. Y, contra la intuición de parte del sector, eso es una buena noticia a largo plazo. Ningún sector transformador —la aviación, el automóvil, el medicamento— despegó de verdad hasta que quedó claro quién respondía por sus daños. Aquí no está la IA en el banquillo; está la pregunta más vieja del derecho de daños aplicada a la tecnología más nueva.

EL DAÑO YA NO ES HIPOTÉTICO. En junio de 2026, la policía de Bentonville (Arkansas) detuvo a un fotógrafo local acusado de 200 cargos por crear material de abuso sexual infantil generado con IA. Según los investigadores, usó Grok, el modelo de xAI, para transformar fotos reales de menores que eran clientes de su estudio. Desde julio, al menos tres familias —entre ellas la de una niña de 10 años y la de otra de 6— han demandado a xAI en tribunales federales. Las demandas alegan, y subrayamos que es una acusación no probada, que xAI prescindió de salvaguardas que son estándar en el sector y promocionó Grok como «mayormente sin censura»; ya en enero de 2026, los fiscales generales de 35 estados habían exigido cambios por carta. El daño tampoco es anecdótico en el fraude: el informe de ciberdelincuencia del FBI de 2025 registró más de 22.000 denuncias de fraude relacionado con IA, con pérdidas superiores a 893 millones de dólares, de los cuales 352 millones correspondieron a mayores de 60 años. Clonar una voz convincente requiere unos tres segundos de audio, y análisis del sector hablan de un crecimiento de las estafas de voz superior al 1.000% en 2025. Y a esto se suma la tercera frontera: agentes autónomos —programas de IA que actúan solos en tu nombre— que ya navegan, compran y firman sin supervisión humana directa.

EL AGUJERO DE LA SECCIÓN 230. Todo el debate jurídico estadounidense gira sobre una ley de 1996. La Sección 230 protege a las plataformas de lo que publican sus usuarios: si alguien difama en una red social, responde el usuario, no la red. Pero esa inmunidad cubre alojar contenido de terceros, no crearlo. La propia ley excluye a quien es «responsable, en todo o en parte, de la creación del contenido», y un modelo generativo hace exactamente eso: generar. El consenso jurídico emergente, como resume el análisis del Center for Democracy and Technology, es que la salida de un modelo probablemente queda fuera del escudo. Eso abre la pregunta central: si un modelo no es un altavoz, ¿qué es? ¿Un producto, como un coche con frenos defectuosos, o un servicio, como un asesor que se equivoca? La distinción importa muchísimo, porque a los productos se les aplica la responsabilidad objetiva: la víctima no necesita demostrar negligencia, solo que había un defecto, que sufrió un daño y que el defecto lo causó. En mayo de 2025, la jueza federal Anne Conway dio la primera respuesta de peso en el caso Garcia contra Character Technologies, por el suicidio de un menor de 14 años que mantenía una relación intensa con un chatbot: la salida del chatbot no es «discurso» protegido por la Primera Enmienda, y el sistema puede considerarse un producto sujeto a responsabilidad. Las demandas por diseño defectuoso siguieron adelante.

LOS PRECEDENTES YA MARCAN EL CAMINO. El patrón se repite en cada fallo conocido, y siempre apunta al mismo sitio: la responsabilidad fluye hacia la empresa que despliega o fabrica el sistema, no hacia «la máquina». En 2024, un tribunal canadiense obligó a Air Canada a pagar 812 dólares canadienses a un pasajero al que su chatbot inventó una política de descuentos; la aerolínea alegó que el chatbot era una «entidad separada» responsable de sus propios actos, y el tribunal lo rechazó de plano (Moffatt v. Air Canada). En enero de 2026, según lo publicado, Character.AI y Google cerraron un acuerdo en el caso Garcia y otros cuatro similares, comprometiéndose a nuevas medidas de seguridad para menores: el mercado ya descuenta que estos casos se pierden o se pactan. Sigue abierto Raine contra OpenAI, la demanda por la muerte de un adolescente de 16 años que OpenAI niega y atribuye a un «mal uso» del sistema. Y en el frente de los agentes, Amazon demandó a Perplexity a finales de 2025 porque su navegador-agente Comet entraba en cuentas de clientes y completaba compras: posiblemente el primer pleito federal sobre un sistema agéntico comercial. California remató la jugada con la ley AB 316, en vigor desde el 1 de enero de 2026: quien desarrolle, modifique o use una IA no puede alegar como defensa que la IA «actuó de forma autónoma». La vía de escape más obvia quedó cerrada por ley.

EUROPA REGULA, ESTADOS UNIDOS LITIGA. Aquí conviene desmontar un tópico: no es «Europa regula y Estados Unidos deja hacer». Son dos métodos distintos para llegar a un sitio parecido. La UE retiró en febrero de 2025 su Directiva de Responsabilidad en IA, cediendo a la presión por simplificar. Pero lo decisivo sobrevivió en otra norma que casi nadie mira: la nueva Directiva de Productos Defectuosos (2024/2853), que los Estados miembros deben aplicar antes del 9 de diciembre de 2026, trata explícitamente el software y los sistemas de IA como productos sujetos a responsabilidad objetiva. En Europa, quien resulte dañado por una IA defectuosa no tendrá que probar que el fabricante fue negligente. Estados Unidos, sin marco federal, está construyendo el equivalente por acumulación: sentencias como Garcia, leyes estatales como la AB 316 y jurados con capacidad de imponer indemnizaciones millonarias. Nuestra lectura: el sistema europeo da certidumbre por adelantado y el americano la descubre caso a caso, con más volatilidad y más miedo en los consejos de administración. Pero ninguno de los dos es ya laissez-faire. La era en que «los daños de la IA no eran problema de nadie» terminó en ambas orillas.

EL REGULADOR QUE NADIE MIRA. Mientras tanto, el actor más influyente no sale en los titulares: las aseguradoras. Desde el 1 de enero de 2026, nuevos formularios estándar del sector (los endosos de Verisk/ISO, las cláusulas tipo que usan casi todas las pólizas americanas) permiten excluir la IA generativa de los seguros de responsabilidad civil general, y grandes aseguradoras como AIG, Chubb o WR Berkley ya los están aplicando, según la prensa especializada. En paralelo, en el mercado de Lloyd's de Londres ha nacido el seguro específico de IA: Armilla lanzó en 2025 la primera póliza autónoma que cubre alucinaciones y fallos de modelo, con límites que en enero de 2026 alcanzaban los 25 millones de dólares por organización. Esto es regulación de facto, y de la potente: para asegurarte, tendrás que demostrar evaluaciones, salvaguardas y monitorización, igual que el seguro de incendios impuso en su día los códigos de edificación. La aseguradora no debate sobre el futuro de la IA: le pone precio hoy. Nuestra lectura final es de optimismo matizado, como siempre. A corto plazo, esto duele: primas caras, empresas que no encontrarán cobertura, proyectos frenados y víctimas reales —niños, ancianos estafados— que llegaron antes que las reglas. Pero a largo plazo, un régimen claro de responsabilidad es exactamente la infraestructura de confianza que la IA necesita para cumplir su promesa: la de curar enfermedades, extender la vida y generar abundancia. La industria que hoy protesta por las demandas debería recordar la historia: la responsabilidad no mató al avión ni al medicamento. Los hizo dignos de confianza. Y solo la tecnología en la que se confía cambia el mundo.