Microsoft amplía sus capacidades de protección de la IA
- Seguridad
La compañía ha anunciado un paso más en su propuesta de seguridad de la inteligencia artificial con las nuevas características de Microsoft 365 E7, particularmente la inclusión de Agent 365 y Project Perception, con capacidades de adaptación continua del control y la visibilidad a los cambios en los riesgos.
Microsoft plantea un modelo de seguridad basado en "cuatro responsabilidades continuas": saber qué agentes hay, incluyendo a quién pertenecen, por qué existen y qué es lo que hacen; poner límites a lo que cada agente puede acceder y hacer antes de que pueda actuar; proteger todo lo que se cruce en la ruta de los agentes, desde datos y herramientas hasta sistemas y rutinas; y adaptar de forma continua la protección, a medida que cambien el riesgo, el comportamiento o el contexto.
La compañía señala que no proponen productos para hacer cada una de esas funciones, sino como fases esenciales de la seguridad de la IA. Y todo ello con una propuesta de arquitectura de confianza basada en un principio: separar "el suministro de la inteligencia de la autoridad sobre ella". Estas perspectivas se incorporan en las nuevas capacidades que ha anunciado la compañía para Microsoft 365 E7, entre las que se incluyen Agent 365 y Project Perception, y se centran en la visibilidad, la supervisión y el control de los agentes de inteligencia artificial.
Las principales novedades que destaca Microsoft son Dynamic Permissions, que limita el acceso de los agentes a tareas muy específicas; Dynamic Agent Risk y Dynamic Conditional Access para evaluar el riesgo asociado a cada agente de forma continua, adaptando permisos y capacidades automáticamente; y los nuevos Guardian Agents y playbooks de Project Perception.
Las mayores capacidades de Project Perception
No hay que olvidar que Project Perception fue lanzado por Microsoft este verano, como nueva arquitectura de ciberseguridad basado en agentes de IA especializados. La preview pública se abrió en agosto, planteando tres tipologías de agentes: rojos que identifican posibles rutas de ataque y vulnerabilidades, azules que investigan estos hallazgos y verdes que realizan las acciones correctivas.
Las nuevas capacidades de Perception permiten investigar cambios en el nivel de riegos de los agentes, coordinando acciones "a velocidad de máquina" con las políticas y los mecanismos de supervisión definidos por los especialistas. Con los anuncios de la semana, Microsoft ha anunciado también la ampliación de sus capacidades de gestión de agentes con 35 nuevos tipos de agentes locales, entre ellos Claude Code, OpenAI Codex y GitHub Copilot.
La visibilidad sobre los agentes de IA es una de las claves de su seguridad, aunque Hayete Gallot, CVP de Microsoft Security, recuerda que "esa transparencia del modelo no sustituirá a los mecanismos de contención, sino que hará que sea más inteligente y sólida. También nos permitirá mejorar el reporte de resultados y la trazabilidad. Este debe ser el siguiente paso en la protección de los agentes internos autónomos que operan dentro de las organizaciones. Con Perception, ya es posible iniciar hoy el camino hacia la protección de los agentes internos autónomos que operan en su organización".
