La ciberseguridad emerge como el gran reto para una adopción fiable de la IA en el sector público

Las administraciones públicas avanzan con rapidez en la incorporación de la inteligencia artificial, pero ese proceso no siempre va acompañado de las inversiones necesarias en ciberseguridad, gobernanza del dato y tecnologías de IA confiable. Esta es una de las principales conclusiones del informe Data and AI Impact Report: The Trust Imperative, elaborado por SAS e IDC, que advierte de que muchas organizaciones públicas están construyendo sus estrategias de IA sobre infraestructuras de datos todavía insuficientemente preparadas.

El estudio analiza el denominado "dilema de la confianza": la dificultad de las organizaciones para encontrar el equilibrio entre retrasar la adopción de la inteligencia artificial por falta de garantías o utilizar sistemas cuya fiabilidad todavía no ha sido suficientemente validada. Según el informe, esta situación constituye uno de los principales obstáculos para una implantación efectiva de la IA en el sector público.

Afshin Almassi, director de Sector Público y Sanidad para España, Portugal y Francia en SAS, señala que el verdadero valor de la inteligencia artificial dependerá de su capacidad para ofrecer beneficios reales a la ciudadanía sin comprometer la seguridad ni la confianza en los servicios públicos.

 

Más uso de la IA, pero menos confianza

El informe refleja que los gobiernos figuran entre las organizaciones que más rápidamente están incorporando la inteligencia artificial. El 52% ya utiliza agentes de IA, una cifra superior a la registrada en sectores como la banca, la sanidad o el comercio minorista.

Sin embargo, solo el 6% de las administraciones declara contar con un elevado nivel de confianza interna en sus sistemas de inteligencia artificial, el porcentaje más bajo de todos los sectores analizados.

Además, el 38% reconoce utilizar soluciones de IA sin apoyarse plenamente en tecnologías y mecanismos diseñados para garantizar su fiabilidad. El estudio también observa que muchas organizaciones muestran una mayor confianza en la IA generativa que en tecnologías consolidadas como el machine learning, pese a que estas últimas llevan años utilizándose con éxito en ámbitos como la detección del fraude o el análisis predictivo.

La situación también se refleja en el índice de IA confiable elaborado por el estudio. Solo el 15,3% de las organizaciones públicas alcanza el nivel más alto de madurez, frente al 19,8% registrado de media en todos los sectores y por detrás de industrias como la banca, los seguros o las ciencias de la salud.

Chris Marshall, vicepresidente de investigación de IDC, advierte de que la confianza en la inteligencia artificial puede avanzar más rápido que la propia fiabilidad de los sistemas cuando no existen datos sólidos, reglas claras y mecanismos adecuados de supervisión, especialmente en un ámbito donde las decisiones afectan directamente a los ciudadanos.

 

Datos y ciberseguridad, las principales asignaturas pendientes

El estudio identifica varios factores que limitan el despliegue seguro de la inteligencia artificial en las administraciones públicas.

La principal barrera, compartida por todas las regiones analizadas, es la ausencia de una infraestructura de datos centralizada y optimizada. A ello se suma la dificultad para gestionar adecuadamente la información, uno de los problemas más citados por las organizaciones encuestadas.

Estas carencias afectan directamente a la ciberseguridad. Sin una arquitectura de datos consistente, una adecuada gobernanza y controles suficientes, aumenta la exposición a errores, sesgos, vulnerabilidades y problemas de cumplimiento normativo.

El informe también detecta una falta de formación más acusada entre los empleados en general que entre los perfiles técnicos especializados, lo que está llevando a muchas administraciones a priorizar tanto la modernización de sus infraestructuras como la capacitación de sus plantillas.

 

Más inversión, pero con foco en infraestructuras fiables

Aunque las administraciones prevén aumentar el presupuesto destinado a inteligencia artificial, el informe subraya que el reto no consiste únicamente en incorporar nuevos modelos, sino en construir una base tecnológica capaz de sostenerlos de forma segura.

El 12,6% de los organismos públicos prevé incrementar su inversión en IA por encima del 20%, mientras que casi la mitad anticipa aumentos de entre el 4% y el 20%. Entre los beneficios esperados destacan la mejora de los procesos administrativos, una mayor agilidad operativa y el incremento de la productividad de los empleados.

Ravi Kant Sharma, director de investigación de Government Insights en IDC Asia-Pacífico, considera que las administraciones son conscientes tanto de las oportunidades como de las limitaciones actuales de la inteligencia artificial, y señala que el éxito dependerá de encontrar el equilibrio entre el desarrollo de nuevas capacidades y la creación de infraestructuras de datos y tecnologías confiables que garanticen un uso seguro y sostenible de la IA.