“Vender IA transparente se convertirá en un sello de calidad del software europeo” José Luis de la Fuente, Devoteam

¿Cómo ha impactado la AI Act europea en el desarrollo de soluciones basadas en IA desde su entrada en vigor en agosto de 2024?

Desde su entrada en vigor, en Devoteam hemos observado un cambio de estrategia en el mercado, pasando de una experimentación donde primaba la velocidad en obtener “un resultado” a la adopción estructurada y madurada.

El mayor cambio ha sido la integración del concepto de "cumplimiento desde el diseño". Ahora se ve que los equipos de desarrollo y de negocio incorporan evaluaciones de riesgo desde la fase de ideación, clasificando los casos de uso según los niveles estipulados por la ley.  Hemos observado en Devoteam que este cambio, en lugar de frenar la innovación, está permitiendo a las empresas invertir con mayor seguridad en casos de uso escalables sabiendo cuáles son las reglas del juego.

 

¿Cómo van a afectar a la industria las nuevas obligaciones impuestas por esta Ley desde agosto de 2026? ¿Cómo está afectando a los proyectos de inteligencia artificial que llevan años en marcha en España?

La aplicación de la normativa en agosto de este año ha supuesto un punto de inflexión. Aunque ya se tenía en mente la parte de Gobierno de la IA, ahora las empresas se enfrentan a la obligatoria necesidad de instaurar verdaderos modelos de "AI Governance".

Para los proyectos que llevan en marcha en España desde antes de este verano, y que muchos de ellos se “desarrollaron” bajo el paradigma de resultados rápidos, el reto ahora está en la auditoría: estos desarrollos deben ser revisados exhaustivamente para garantizar que cumplen con los requisitos actuales (de calidad de datos, trazabilidad, supervisión humana, etc). Aquellos proyectos que no nacieron teniendo en cuenta un marco de gobierno ético están requiriendo reajustes significativos, lo que está impulsando la demanda de servicios de auditoría y adaptación tecnológica necesaria en cada caso.

 

Ante el choque regulatorio ente la Cloud Act de EE.UU. y la AI Act de Europa en materia de soberanía del dato, ¿esperan que aumente la demanda de soluciones de IA basadas en nubes soberanas europeas?

Ya lo veníamos observando antes del verano, y ahora prácticamente es la primera pregunta al entablar una conversación con nuestros clientes en proyectos de cierto calado: ¿se puede hacer este proyecto en un marco controlado en la UE? .

La preocupación entre la exposición de datos ante normativas extranjeras y la exigencia de control de la AI Act ha colocado a la soberanía del dato en la agenda principal de los comités de dirección de las empresas. Estamos viendo un incremento sustancial en la demanda de soluciones de nube soberana y on-prem, que garanticen que los datos (especialmente los de entrenamiento e inferencia) no abandonan las fronteras europeas. Los grandes hyperscalers no son ajenos a ésta demanda y están reforzando sus regiones europeas y controles de encriptación

En Devoteam ya éramos conscientes de esta preocupación desde hace tiempo, lo que nos permite acompañar a nuestros clientes en el diseño de estas arquitecturas soberanas.

 

¿Cómo creen en Devoteam que la obligación de aportar más explicabilidad y transparencia a la IA minará la competitividad de los fabricantes de software y proveedores de cloud europeos?

En Devoteam no consideramos que la explicabilidad y la transparencia mermen la competitividad. Es más, pensamos que es exactamente lo contrario. Aunque a corto plazo hay una carga administrativa y técnica mayor, a medio y largo plazo se crea una ventaja competitiva basada en la confianza  de los resultados. Las empresas y los usuarios finales prefieren soluciones que entiendan y que no sean "cajas negras". Desarrollar y vender IA transparente se convertirá en un sello de calidad que diferenciará al software europeo a escala mundial, estableciendo un estándar ético y de fiabilidad que otros mercados terminarán exigiendo (y que si no lo exigen se terminará por no usar)

 

A finales del año que viene entran en vigor restricciones adicionales para entornos de IA de alto riesgo. ¿Cómo creen en Devoteam que esto afectará la demanda de soluciones on-premise frente a la IA basada en cloud?

Se verá un repunte en infraestructuras on-premise y en modelos "edge " para casos de uso extremadamente sensibles o catalogados como de alto riesgo, donde el control total del entorno de ejecución es vital. Sin embargo, no creemos que haya un éxodo masivo del cloud al on-premise, ya que seguirá habiendo muchos casos de uso perfectamente ejecutables en entornos Cloud. Por tanto, pensamos que lo que triunfará serán los modelos híbridos: el entrenamiento y los servicios menos críticos en cloud pública controlada, y la inferencia de alto riesgo desplegada en entornos aislados, privados u on-premise.

 

¿Cómo abordan en Devoteam el cumplimiento con la Ley europea de IA?

En Devoteam lo abordamos desde una perspectiva global que une tecnología, negocio y legalidad. Ayudamos a las organizaciones a implementar un marco integral de Gobierno de la IA, desde la creación de inventarios de modelos, clasificación de riesgos, implementación de herramientas de MLOps para asegurar la trazabilidad y reproducibilidad, hasta la integración de marcos éticos en los ciclos de vida del desarrollo de software. Colaboramos estrechamente con nuestros clientes y partners tecnológicos para diseñar arquitecturas de datos seguras, ofreciendo una consultoría end-to-end que convierte el cumplimiento normativo en un facilitador del negocio, y no en un obstáculo.