Cuatro amenazas críticas que exigen mejoras urgentes en ciberseguridad

Durante el Gartner Security & Risk Management Summit, los analistas han advertido de que el panorama de amenazas se ha vuelto más impredecible y complejo. “Los líderes de ciberseguridad deben ser capaces de encontrar la señal entre todo el ruido”, afirmó John Watts, VP Analyst en Gartner, al referirse al impacto que están teniendo las iniciativas de seguridad anunciadas por compañías de IA avanzada en un entorno ya saturado de riesgos emergentes.

Gartner ha identificado cuatro amenazas críticas que están otorgando una ventaja significativa a los atacantes y que requieren mejoras urgentes por parte de los líderes de ciberseguridad:

 

-     Compromiso de aplicaciones de IA: una superficie de ataque en expansión

El compromiso de aplicaciones de inteligencia artificial se sitúa entre las amenazas más críticas, impulsado por la proliferación de herramientas de IA generativa, agentes personalizados y aplicaciones internas que manejan datos sensibles. Los atacantes están aprovechando nuevas superficies de ataque derivadas de modelos, integraciones de terceros y aplicaciones corporativas expuestas.

Gartner recomienda a los CISO mapear estos nuevos vectores, aplicar prácticas de ciclo de vida seguro, reforzar la clasificación de datos, adoptar purpose-based access control (PBAC) y desplegar monitorización en tiempo de ejecución para detectar comportamientos anómalos en modelos y agentes de IA .

 

-     Deepfakes: identidad en riesgo y fraude difícil de detectar

El uso de deepfakes se ha disparado gracias a la IA generativa, aumentando el volumen, la calidad y la accesibilidad de contenidos falsificados en voz, vídeo e imagen. Esto permite a los atacantes suplantar identidades, atacar procesos biométricos, manipular reuniones en tiempo real o interferir en procesos de selección de personal.

“El uso de deepfakes por parte de los atacantes es ya habitual y hace que el fraude y el phishing sean difíciles de detectar”, advirtió Watts. Gartner insiste en que no existe un único control capaz de frenar estos ataques y que las organizaciones deben combinar detección, refuerzo de procesos, autenticación robusta y análisis de señales contextuales.

 

-     Cadena de suministro de software: el riesgo crece con la IA generativa

La evolución de las ofertas de IA generativa está acelerando los ataques a la cadena de suministro de software, especialmente a través de vulnerabilidades en componentes open source y pipelines de CI/CD.

Gartner insta a las organizaciones a construir inventarios completos de activos software, exigir SBOM y AIBOM, utilizar repositorios curados, firmar artefactos durante las compilaciones y aplicar controles de mínimo privilegio en los sistemas de build, además de monitorizar continuamente la actividad de herramientas y agentes automatizados.

 

-     Prompt injection: la amenaza silenciosa que manipula modelos de IA

El prompt injection se ha convertido en una amenaza crítica para los sistemas basados en LLM. Los atacantes manipulan las instrucciones para alterar el comportamiento del modelo, provocar filtraciones de datos o ejecutar acciones no autorizadas.

Gartner recomienda una estrategia de mitigación en capas que incluya validación de entradas, pruebas de seguridad específicas para IA, prompts de sistema robustos y guardrails en tiempo de ejecución capaces de bloquear actividad sospechosa.

Los analistas subrayan que estas amenazas requieren inversiones estratégicas, priorización basada en riesgo y una ampliación del enfoque de seguridad más allá del software tradicional. La adopción masiva de IA generativa y agentes autónomos está redefiniendo el perímetro, la identidad y la cadena de suministro digital.