Manifiesto de Madrid: evaluación de IA antes de llegar a menores

El Consejo Asesor Internacional de Inteligencia Artificial presentó en Madrid el 8 de octubre de 2026 el Manifiesto de Madrid por una IA responsable y pidió evaluar de forma independiente los sistemas de IA que puedan llegar a menores antes de desplegarlos, según la nota oficial de la presentación. Manuel Castells y Francesca Bria expusieron el trabajo acompañados por el ministro Óscar López. La propuesta abarca también servicios que no se hayan creado expresamente para niños y adolescentes, siempre que puedan llegar a ellos.

La petición del consejo aún no crea una obligación legal de evaluación previa. López expresó su intención de «transformar en leyes las ideas aportadas» si el Gobierno se revalida tras las elecciones del 29 de noviembre, en declaraciones recogidas por El País. El adelanto electoral condiciona esa intención política: para hacer exigible una medida concreta haría falta aprobarla mediante el procedimiento normativo correspondiente.

La revisión para menores comenzaría antes del despliegue

El apartado de protección reforzada de menores pide evaluaciones independientes para los sistemas susceptibles de llegar a personas menores antes de su despliegue. El criterio es el alcance posible del sistema, no solo el público al que se anuncia. El texto menciona asistentes, acompañantes de IA y chatbots, cuyo diseño debería apoyar el bienestar, la autonomía y el desarrollo saludable de niños y adolescentes.

El consejo sitúa el interés superior de los menores desde el diseño y el desarrollo, además del momento de lanzamiento. Así, una evaluación previa tendría que examinar algo más que la presentación comercial del servicio: su funcionamiento y las garantías de seguridad, protección y rendición de cuentas que ofrece. El manifiesto no establece un procedimiento único, un certificado obligatorio ni una autoridad que deba autorizar cada sistema; esos elementos requerirían decisiones posteriores si la recomendación se incorporase a una norma.

Cuatro propuestas, con responsables y efectos jurídicos distintos

El documento combina medidas dirigidas a desarrolladores y operadores con otras que necesitarían facultades públicas o cambios en las reglas de responsabilidad. Todas son propuestas del consejo asesor. Separar lo que recomienda, quién podría tener que actuar y qué efecto tiene hoy evita atribuir a la publicación del manifiesto obligaciones que todavía no ha creado.

Evaluación de IA accesible a menores. Recomendación: revisión independiente antes de desplegar sistemas que puedan llegar a niños y adolescentes. Posible responsable: desarrolladores y responsables del despliegue tendrían que facilitar el examen a evaluadores independientes. Situación jurídica: el manifiesto no introduce un nuevo permiso previo para lanzar esos servicios.
Evaluación de modelos de frontera y sistemas agénticos. Recomendación: revisión independiente antes del despliegue, con acceso de los evaluadores a los modelos, la documentación de los datos de entrenamiento y los registros de incidentes. Posible responsable: quienes desarrollan y despliegan esos sistemas. Situación jurídica: publicar la recomendación no concede a los evaluadores un nuevo derecho de acceso.
Responsabilidad y reparación. Recomendación: atribuir los daños a quienes desarrollan y despliegan la IA, trasladarles la carga de la prueba cuando sistemas de alto riesgo causen daños y permitir reclamaciones colectivas. Posible responsable: personas físicas o jurídicas identificables detrás del sistema. Situación jurídica: el manifiesto no modifica por sí mismo las reglas aplicables a una reclamación.
Suspensión de sistemas fuera de control humano efectivo. Recomendación: que las autoridades públicas puedan suspenderlos o retirarlos, además de los operadores. Posible responsable: las autoridades a las que una norma atribuya esa facultad y quienes deban cumplir sus decisiones. Situación jurídica: el documento no otorga una nueva potestad de suspensión a la Administración.

Las evaluaciones previas responden a criterios diferentes. La protección de menores depende de que un sistema pueda llegar a ese público; la otra propuesta se refiere a modelos de frontera y sistemas agénticos, y precisa qué información necesitarían sus evaluadores. Un servicio podría encajar en ambas categorías. Esa coincidencia no convierte las recomendaciones en un único trámite ni permite dar por definidos sus futuros requisitos.

Qué supondría para un chatbot utilizado por menores

Si la evaluación previa pasara a ser obligatoria, un servicio accesible a menores tendría que afrontar una revisión externa antes de ponerse en circulación en las condiciones que fijase la futura norma. Para un asistente conversacional, la cuestión sería si sus respuestas y su diseño ofrecen las garantías de seguridad y protección exigidas, y si hay responsables identificables cuando aparecen problemas. El alcance exacto de ese examen sigue abierto porque el consejo formula un principio, no un procedimiento de autorización.

El manifiesto añade que los sistemas deben permitir reconstruir datos, modelos, resultados, responsables, actualizaciones e incidentes. Esa trazabilidad serviría para detectar errores, atribuir responsabilidades y reparar daños. También distingue las recomendaciones generadas por IA de las decisiones que afectan significativamente a las personas: la responsabilidad de estas últimas debe permanecer en una persona o institución identificable. En servicios utilizados por menores, ambas propuestas apuntan a una supervisión que pueda explicar qué ocurrió y quién responde.

La promesa de legislar queda pendiente de una decisión política

El consejo asesora al Gobierno, pero sus miembros participan a título personal y el propio manifiesto aclara que no representa una posición oficial del Ejecutivo español. La declaración de López muestra una voluntad política condicionada por el resultado electoral; no identifica todavía un proyecto de ley que convierta estas evaluaciones en requisito exigible. Tampoco altera las obligaciones que ya puedan derivarse de normas vigentes para un servicio concreto.

El siguiente paso de esta historia será comprobar si el Gobierno que resulte de las elecciones presenta una iniciativa normativa y cómo delimita los sistemas alcanzados. De esa redacción dependería si la revisión independiente se exige a todo servicio capaz de llegar a menores, quién la realiza y qué consecuencias tendría desplegarlo sin haberla superado.