Primera brecha de datos en España causada por un agente de inteligencia artificial
- Seguridad
El atacante utilizó un modelo de lenguaje para encadenar de forma autónoma distintas fases del ataque. La Agencia Española de Protección de Datos advierte que los ataques asistidos por IA dejan de ser un riesgo teórico y empiezan a materializarse en incidentes reales.
La Agencia Española de Protección de Datos (AEPD) ha recibido la primera notificación oficial de una brecha de datos personales ejecutada mediante un agente de inteligencia artificial, un hito que marca un punto de inflexión en la gestión de riesgos digitales en España. Según la información remitida por la organización afectada, el agente atacante utilizó un conocido modelo de lenguaje para iniciar una búsqueda de vulnerabilidades en archivos genéricos y realizar un login correcto en el sistema.
Una vez dentro, el agente comenzó a buscar vulnerabilidades de forma autónoma, lo que le permitió modificar datos personales y acceder a facturas. La AEPD subraya que la información procede de la notificación inicial y deberá ser analizada en detalle antes de extraer conclusiones definitivas. También aclara que el uso de un modelo de IA no implica que la infraestructura del proveedor haya sido comprometida ni que la herramienta esté diseñada para actividades maliciosas.
Lo relevante, según la Agencia, es que un tercero habría utilizado un agente de IA como instrumento para encadenar exitosamente distintas fases del ataque, demostrando que estas capacidades ya no son un riesgo hipotético sino una realidad operativa que afecta a tratamientos reales de datos personales.
La IA ofensiva obliga a revisar los modelos de seguridad
La AEPD recuerda que el uso de IA en actividades maliciosas no es nuevo, y que los modelos generativos llevan tiempo empleándose para redactar phishing, traducir campañas fraudulentas, suplantar identidades o facilitar la búsqueda de vulnerabilidades. Sin embargo, la aparición de agentes de IA introduce un cambio cualitativo, ya que estos sistemas pueden recibir objetivos, planificar tareas, ejecutar código, consultar fuentes y adaptar su comportamiento en función de los resultados, todo ello de manera autónoma.
La IA no crea nuevas amenazas, pero aumenta la velocidad, escala y capacidad de adaptación de técnicas ya conocidas, reduciendo el tiempo disponible para detectarlas y contenerlas. El CCN-CERT ya había advertido en su guía BP/36 que la IA ofensiva se está convirtiendo en una capacidad integrada en campañas reales, recomendando reforzar controles esenciales, acelerar la gestión de vulnerabilidades y gobernar adecuadamente el uso de agentes.
La AEPD destaca cuatro implicaciones clave para las organizaciones, empezando por incorporar ataques asistidos por IA en los análisis de riesgos, ya que la automatización modifica probabilidad, velocidad y alcance del incidente; revisar los tiempos de respuesta, porque los procedimientos diseñados para ataques manuales pueden resultar insuficientes ante agentes que analizan múltiples activos simultáneamente; proteger identidades digitales y credenciales, dado que un agente con una cuenta o token con permisos excesivos puede operar a velocidad de máquina y acceder a distintos servicios antes de ser detectado; y reducir la dependencia de la intervención manual, apoyándose en mecanismos de detección y contención capaces de actuar con rapidez suficiente.
La Agencia concluye que la llegada de agentes de IA al ámbito ofensivo debe impulsar una revisión inmediata de los modelos de seguridad y protección de datos, reforzando fundamentos esenciales como conocer los tratamientos, minimizar datos, limitar accesos, corregir vulnerabilidades, controlar proveedores y estar preparados para responder con mayor velocidad.
