El Consejo Asesor Internacional de IA reclama una gobernanza para reforzar la ciberseguridad

El Consejo Asesor Internacional de Inteligencia Artificial ha presentado el Manifiesto de Madrid por una IA responsable, un documento que reivindica el papel de las democracias en la configuración, la gobernanza y la supervisión de la inteligencia artificial (IA). Sus recomendaciones abordan cuestiones fundamentales para la ciberseguridad, como la protección de los datos, el control de las infraestructuras digitales críticas, la evaluación de riesgos, la transparencia y la responsabilidad ante incidentes relacionados con sistemas automatizados.

El manifiesto advierte de que la autorregulación de la inteligencia artificial no es suficiente para garantizar que su desarrollo responda al interés público. Esta conclusión, formulada por un grupo de expertos internacionales en tecnología, ética, economía, sociología, gobernanza digital y ciencias cognitivas, pone de relieve la necesidad de establecer mecanismos efectivos de supervisión y control que permitan prevenir abusos, identificar vulnerabilidades y proteger los derechos fundamentales.

El documento responde al mandato del Consejo de Ministros de formular recomendaciones estratégicas y propuestas para la política española en materia de IA. Su presentación corrió a cargo del presidente del Consejo Asesor, el sociólogo y profesor universitario Manuel Castells, y de Francesca Bria, experta en política digital y profesora universitaria, acompañados por el ministro para la Transformación Digital y de la Función Pública, Óscar López.

El ministro destacó el valor del trabajo del Consejo para España y para el debate internacional sobre la gobernanza tecnológica, la supervisión de la IA y sus implicaciones sociales.

 

Protección de datos, control de riesgos y seguridad desde el diseño

Uno de los ejes del manifiesto es la protección de las personas frente a los riesgos derivados de la explotación de sus datos. Los expertos advierten de que el colonialismo digital adopta nuevas formas mediante la apropiación de información personal y su conversión en un recurso susceptible de explotación. Desde esta perspectiva, la privacidad y el control sobre los datos constituyen elementos esenciales tanto de los derechos individuales como de la seguridad digital colectiva.

El Consejo defiende que la inteligencia artificial debe desarrollarse y gobernarse al servicio de la dignidad humana, la democracia y la justicia social, mediante mecanismos de transparencia, trazabilidad, supervisión humana y rendición de cuentas. Estos principios guardan una relación directa con la ciberseguridad, ya que permiten conocer cómo funcionan los sistemas, identificar a los responsables de sus decisiones y establecer mecanismos de intervención cuando se detectan comportamientos perjudiciales.

El manifiesto reconoce el potencial de la IA en ámbitos como la ciencia, la salud y la educación, pero alerta de que la concentración de capacidades tecnológicas en un número reducido de actores plantea desafíos para la gobernanza democrática, la equidad económica y la soberanía tecnológica.

Desde el punto de vista de la seguridad, esta concentración también pone de relieve la importancia de que las organizaciones y las instituciones mantengan capacidad de supervisión sobre los sistemas de los que dependen y dispongan de alternativas para gestionar los riesgos asociados a proveedores, plataformas e infraestructuras tecnológicas.

 

La protección de los menores como requisito de seguridad

El Consejo Asesor sostiene que los derechos fundamentales deben integrarse en todas las fases del ciclo de vida de la inteligencia artificial, desde su diseño hasta su despliegue y utilización. Entre sus prioridades figuran la protección de la privacidad, la prevención de la discriminación, la seguridad de los usuarios y la protección de los menores.

El documento subraya que la protección de los menores no constituye una barrera a la innovación, sino una condición para legitimarla. Por ello, reclama que los intereses de niños y adolescentes orienten el diseño, desarrollo y despliegue de los sistemas de IA.

Los expertos también defienden que estos sistemas se sometan a evaluaciones independientes antes de su puesta en funcionamiento, con el fin de verificar sus condiciones de seguridad, protección y rendición de cuentas. Este planteamiento refuerza la importancia de incorporar controles preventivos y evaluaciones de riesgos antes de que una tecnología pueda afectar a usuarios especialmente vulnerables.

 

Soberanía digital y resiliencia de las infraestructuras críticas

El manifiesto define la soberanía digital como una condición necesaria para la democracia, al permitir que las sociedades gobiernen sus infraestructuras tecnológicas críticas de acuerdo con sus leyes, valores y prioridades colectivas.

«En la era digital, la soberanía no es aislamiento, sino autonomía, resiliencia y democracia», sostienen los expertos.

Esta visión conecta directamente con la ciberseguridad: mantener el control sobre los datos, los sistemas y los servicios digitales resulta esencial para reducir dependencias, responder ante incidentes y garantizar la continuidad de los servicios críticos.

El Consejo defiende que la soberanía digital se construya mediante la apertura y la cooperación, garantizando que las personas y las instituciones mantengan un control efectivo sobre las tecnologías de las que dependen. También destaca la necesidad de preservar la diversidad lingüística, cultural y territorial en el desarrollo de la IA.

Las capacidades públicas ocupan un lugar central en esta estrategia. Según el manifiesto, las sociedades democráticas deben mantener capacidades propias a lo largo de toda la cadena de valor de la inteligencia artificial para asegurar que las infraestructuras críticas permanezcan sometidas a supervisión democrática y respondan al interés público.

Desde la perspectiva de la ciberseguridad, esta capacidad de control contribuye a reforzar la autonomía tecnológica, la resiliencia de los servicios esenciales y la capacidad de las instituciones para gestionar amenazas sin depender exclusivamente de operadores privados.

 

Identidad digital, trazabilidad y responsabilidad de los agentes de IA

Otro de los apartados más relevantes para la seguridad tecnológica aborda la identificación y la atribución de responsabilidades en los sistemas de inteligencia artificial.

El Consejo considera que las sociedades digitales necesitan infraestructuras de identidad interoperables que permitan determinar quién actúa, en nombre de quién y con qué autoridad. En este marco, los agentes de IA deben contar con una identificación única y sus acciones deben poder atribuirse a responsables concretos, ya sean personas físicas o jurídicas.

Este principio adquiere especial importancia en entornos donde los agentes autónomos pueden acceder a datos, utilizar herramientas, ejecutar operaciones e interactuar con otros sistemas. La identificación, el registro de actividad y la trazabilidad de sus acciones permiten reforzar la supervisión, investigar posibles incidentes y determinar responsabilidades.

Los expertos también reclaman que la responsabilidad por los daños causados por sistemas de IA recaiga en quienes los desarrollan y despliegan. Para los sistemas de alto riesgo, proponen trasladar la carga de la prueba a los desarrolladores y responsables del despliegue cuando se produzcan daños, facilitar las reclamaciones colectivas de las personas afectadas y proteger a quienes denuncien riesgos o irregularidades dentro de las organizaciones.

Estas recomendaciones sitúan la rendición de cuentas como un componente esencial de la confianza digital y de la gestión de incidentes asociados a tecnologías automatizadas.

 

Evaluación independiente y capacidad de intervención ante riesgos

El manifiesto presta especial atención a los modelos de IA de frontera y a los sistemas agénticos, cuyas capacidades pueden generar nuevos desafíos de supervisión y control.

El Consejo reclama que estas tecnologías se sometan a evaluaciones independientes antes de su despliegue y que los evaluadores dispongan de acceso a los modelos, la documentación sobre los datos de entrenamiento y los registros de incidentes. La finalidad es facilitar una valoración rigurosa de los riesgos y verificar que los sistemas mantienen condiciones adecuadas de seguridad y controlabilidad.

Además, los expertos defienden que las autoridades públicas, y no únicamente los operadores privados, tengan capacidad para suspender o retirar los sistemas cuyo comportamiento escape al control humano efectivo.

Desde la óptica de la ciberseguridad, esta propuesta refuerza la necesidad de combinar auditorías independientes, supervisión continua, trazabilidad y mecanismos de respuesta que permitan actuar cuando una tecnología presente riesgos relevantes.

La capacidad de intervenir sobre sistemas que operan fuera de los parámetros previstos constituye un elemento especialmente importante en entornos empresariales y públicos en los que la inteligencia artificial puede acceder a información sensible o participar en procesos críticos.

 

Una gobernanza de la IA basada en la seguridad y el interés público

El Manifiesto de Madrid por una IA responsable está suscrito por los miembros del Consejo Asesor Internacional de Inteligencia Artificial: Manuel Castells, Luciano Floridi, Paul S. Adler, Jeroen van den Hoven, Francesca Bria, Carissa Véliz, Vint Cerf, Erika Staël von Holstein, Kate Crawford, Niklas Lundblad y Jerome A. Feldman.

Sus recomendaciones plantean un marco de gobernanza en el que la innovación tecnológica debe coexistir con garantías de seguridad, supervisión democrática y responsabilidad jurídica. La protección de los datos, la resiliencia de las infraestructuras críticas, la identificación de los agentes autónomos y la evaluación independiente de los sistemas forman parte de una misma estrategia: garantizar que la inteligencia artificial pueda utilizarse de forma confiable y bajo control efectivo.

El mensaje central del Consejo es que el desarrollo de la IA no debe medirse únicamente por las capacidades de sus modelos, sino también por la capacidad de las sociedades para gobernar sus riesgos, proteger a sus ciudadanos y preservar el control sobre las infraestructuras de las que depende su actividad económica y social.