Macron pide prohibir la IA que dañe a niños y firma una carta con OpenAI y Anthropic: el pre-registro llega a los modelos

Por Arab News (AFP) · 10 de noviembre de 2026.

El presidente francés, Emmanuel Macron, afirmó este lunes que la inteligencia artificial debe prohibirse allí donde suponga un riesgo para la salud mental de los niños. «Si hay un riesgo para los niños con ciertos usos de la IA, entonces debe prohibirse», dijo en una entrevista con el diario Les Echos, según recoge la agencia AFP. También defendió que no sea «el Salvaje Oeste» y que se vete cuando «amenace» la salud mental o el cerebro de los menores.

La declaración llega a las puertas de la adopción de una carta en el Foro de París por la Paz. Según la oficina de Macron, el documento reunirá, entre otros, a OpenAI y Anthropic. Un comité de expertos entregará este martes al presidente sus recomendaciones sobre protección frente a la IA, un ámbito menos explorado que el impacto de las redes sociales.

Los laboratorios se comprometerían a medidas como evaluaciones independientes de los sistemas de IA generativa que salgan al mercado y acceso a los datos de sus modelos. Macron dice que aceptarán «el principio de una pre-auditoría y pre-certificación», es decir, una revisión previa de los modelos antes de ponerlos en manos de los niños. La carta, según el Elíseo, pretende alimentar los debates legislativos nacionales y europeos.

Macron enmarcó el objetivo como un marco que contemple tres categorías de peligro: los niños, la seguridad democrática y los grandes asuntos de seguridad nacional. Además, reunió por videoconferencia a unos 50 jefes de Estado y de Gobierno, organizaciones internacionales, empresas e investigadores. Participaron los primeros ministros de Reino Unido, Canadá, Noruega, Países Bajos y Japón, y los CEO de OpenAI, Anthropic, Mistral y Microsoft. «El diagnóstico es compartido. Debemos actuar juntos», escribió en X. Todo lo anterior son declaraciones del presidente y de su oficina; la carta aún no se ha adoptado.

**Nuestra lectura.** Lo más relevante no es la frase de la prohibición, que es política, sino el mecanismo: pre-certificación antes de comercializar. Es el cambio de lógica que ya se vio con fármacos y juguetes, y que las redes sociales nunca tuvieron: probar el daño antes, no contarlo después. Que OpenAI y Anthropic se sienten a la mesa indica que prefieren moldear esa regla a que se la impongan.

Hay motivos de cautela. Una carta voluntaria no es una ley, y «evaluación independiente» solo vale si quien evalúa tiene acceso real a los modelos y criterios medibles. En general, el riesgo habitual de este tipo de regulación es legislar el pánico y no la capacidad demostrada: «amenaza para el cerebro» es un listón vago mientras no se traduzca en pruebas concretas, como dependencia emocional, contenido dañino o manipulación en chatbots de compañía. Nuestra posición es que la gobernanza debe basarse en evidencia, y proteger a los menores es el terreno donde el consenso es más fácil y la evidencia, aún escasa, más urgente de generar.

A corto plazo, esto añade fricción y costes de cumplimiento, y puede favorecer a quienes ya tienen equipos para auditorías. A largo plazo, una IA que llegue a niños con garantías es condición para que cumpla su promesa en educación y salud: tutores personalizados y cuidado a escala solo serán aceptables si las familias confían. Esa confianza se construye con controles previos creíbles, no con eslóganes. El test real llegará cuando la carta se convierta en texto legal europeo y alguien publique los resultados de la primera auditoría.