La IA entra en acción: ¿qué necesitas para escalar la infraestructura?
- IT Televisión
A medida que se consolida el despliegue de la inteligencia artificial, tanto generativa como agentiva, la carga sobre las infraestructuras es cada vez mayor, ya sean instalaciones corporativas o la nube. Hablamos de las necesidades de la IA con representantes de Ayesa, Lenguajenatural.ai, Monoceros Labs, Nunsys/Inycom, Plain Concepts, Quibim, Sisteplant e IONOS Cloud España.
La inteligencia artificial generativa (ahora ya también agentiva) es la tecnología que se está implementando en el entorno corporativo con mayor rapidez. En ocasiones, incluso sin que se cuente con el visto bueno de los responsables de tecnología. Este despliegue se ha visto favorecido especialmente por el interés de todos los usuarios, dispuestos en muchos casos a pagar sus propias licencias premium, pero también por el impulso que le están dando los grandes nombres detrás de esta tecnología.
Ahora bien, detrás de cada aplicación de IA hay una cuestión menos visible y, a menudo, decisiva: la infraestructura que permite hacerla funcionar y escalar. Es imprescindible que se despliegue en entornos seguros y confiables, en un momento en que la soberanía digital es un elemento central en proyectos de cloud e IA desarrollados en Europa, pero también que sea flexible para adaptarse a las necesidades de negocio y que su desarrollo sea económicamente sostenible.
“Hemos creado nuestras plataformas, tanto para el desarrollo como para las operaciones, intentando volcar a la nube pública lo menos posible”
Borja Borrego, director de Cloud, Cybersecurity and Infrastructure, Ayesa
Nos hemos reunido con líderes de tecnología, innovación, desarrollo de software y servicios cloud para debatir sobre la realidad operativa de la inteligencia artificial tras el entusiasmo inicial. Contamos para ello con representantes de Ayesa, Lenguajenatural.ai, Monoceros Labs, Nunsys/Inycom, Plain Concepts, Quibim y Sisteplant, en una reunión que ha contado con el apoyo y la participación de IONOS Cloud España.
Francisco Jiménez, director de UNE DATA & AI en Nunsys/Inycom, explica que "ahora la gente lleva al trabajo sus propias licencias de ChatGPT, pagadas de su bolsillo, y esto es algo que no se había visto nunca. Esa tracción es tan rápida porque ha calado a todos los niveles de la sociedad. Respecto a la producción descontrolada de software con IA, al final no deja de ser 'una tarde tonta': alguien a quien se le ocurre una idea y la lanza sin un proceso real en el que se está verificando y validando que las ideas plasmadas tienen sentido. Muchas empresas del tejido empresarial ven que tienen que hacer cosas con IA, porque la competencia lo hace, pero no tienen la capacidad de montar todo un sistema que permita llevarlas a producción de manera escalable y segura".
“La innovación de verdad en arquitecturas de IA y eficiencia está viniendo de China, no de EE.UU., donde la ventaja competitiva se está tratando de construir a través del miedo”
Alejandro Vaca, CEO & AI Lead, Lenguajenatural.ai
El repliegue hacia lo híbrido y la trinchera de la soberanía
Aunque la primera reacción de las organizaciones ante la llegada de la IA generativa fue volcarse masivamente en los modelos comerciales de la nube pública, el paso del tiempo ha forzado un repliegue estratégico hacia arquitecturas híbridas y on-premise. En los grandes entornos corporativos e institucionales, la necesidad de proteger la información confidencial y evitar que los datos salgan fuera ha consolidado el desarrollo de plataformas privadas de operaciones y desarrollo.
Para Alejandro Vaca, CEO & AI Lead de Lenguajenatural.ai, "hay tres o cuatro elementos que hacen que uno decida entrenar modelos propios sobre utilizar uno generalista. El primero es el nivel de especificidad de la tarea que quieres resolver. El segundo es en qué medida las metodologías, procedimientos y datos internos de la empresa suponen una ventaja competitiva: cuanto mayor sea así, más control quieres tener sobre el dato, dónde vive, dónde viaja y qué modelos se entrenan con eso. Y por supuesto el sector: en sectores como el sanitario o el bancario es especialmente importante, mientras en otros un pago por uso sale a cuenta".
“En los agentes de voz, donde la respuesta tiene que ser prácticamente inmediata para que la conversación resulte natural, la latencia es un factor fundamental”
Carlos Muñoz-Romero, CEO & co-Founder, Monoceros Labs
Borja Borrego, director de Cloud, Cybersecurity and Infrastructure en Ayesa, considera que, en general, "nos encontramos dos realidades un poco paralelas. Por un lado, las empresas con un perfil tipo startup, que son capaces de avanzar con algo muy pequeño, pero que funciona muy bien a esa escala. Y luego las empresas más grandes, cuyos desafíos en la infraestructura son de deuda técnica al 100%. Hay un debate ya clásico sobre si la IA va a servir para limpiar deuda técnica o va a servir para separarla. Esa es la clave realmente de lo que nos encontramos: clientes con decenas de miles de servidores a nivel mundial: esa es la realidad que tenemos que gestionar. Con esa perspectiva se tiene que decidir cómo afrontar ese tipo de situaciones: ¿cómo hago con la IA?, ¿cómo hago con el Edge? ¿Y con la soberanía? ¿Qué nos encontramos en las administraciones públicas: qué uso quieren hacer o no de la IA? La transformación depende mucho de la madurez del proyecto: no es lo mismo empezar un proyecto de cero que cuando realmente quieres poner un sistema complejo ya en producción".
Pablo Martínez, CTO y director de Desarrollo en Sisteplant, detalla que, "cuando se extendió el uso de la inteligencia artificial, casi todos empezamos por la nube pública, utilizando los motores y modelos que ya vienen dados, sin tener que desarrollar. Pero para nosotros, que trabajamos en industria y en sectores regulados como el farmacéutico, la trazabilidad y la soberanía del dato son fundamentales. Es uno de los motivos por los que nos hemos movido a modelos híbridos: hay partes que seguimos consumiendo en la nube, con datos no sensibles o agregados, y para lo que afecta a los datos de los clientes o requiere una trazabilidad más estricta, ofrecemos despliegue en local. Siempre teniendo en cuenta el coste, porque en los últimos dos años el precio del hardware no ha dejado de subir".
“Hay empresas que han empezado con máquinas pequeñas en las que han instalado unos algoritmos en local con modelos de unos pocos billones de parámetros”
Francisco Jiménez, director de UNE DATA & AI, Nunsys/Inycom
Uno de los planteamientos compartidos de la mesa redonda es la ausencia de soluciones absolutas. La decisión de cuál es la infraestructura que se debe escoger para el despliegue de la inteligencia artificial depende no solo del sector en el que opera una organización, sino en los márgenes regulatorios en los que se tiene que mover y también en el estado de madurez tecnológico en el que se encuentre. Así, esta tendencia al modelo híbrido varía notablemente según la naturaleza del sector y del dato procesado. En la industria farmacéutica y manufacturera, exigencias como la trazabilidad de cada cálculo y la estabilidad operacional impiden depender íntegramente de APIs externas.
Rafael Sanmartín de la Fuente, digital security manager en Quibim, explica que "nuestro caso es un poco diferente: en Quibim desarrollamos modelos de inteligencia artificial, concretamente deep learning para productos sanitarios. Diferenciamos entre los propios productos y la parte de entrenamiento de los modelos. La parte del entrenamiento se produce más on-premise en la compañía, donde tenemos varios servidores muy potentes para poder entrenar nuestros modelos. Luego, la parte de producto sí la tenemos en cloud por el servicio que se le da a los clientes y para controlar los costes, ya que montar un data center propio sería inviable. También depende del tipo de dato que vayamos a procesar. Para datos de salud el control que debes tener es máximo y no puedes dejar que cualquiera lo albergue o lo procese".
El fantasma del Shadow AI y la factura invisible de los tokens
El despliegue aceleradísimo que ha tenido la inteligencia artificial tiene algunos efectos secundarios. El primero de ellos es la existencia de unos niveles de TI en la sombra mayores que los que ha habido nunca, de ahí que pasamos rápidamente de hablar de Shadow IT a hablar de Shadow AI. Visibilizar y controlar esta tecnología en la sombra es uno de los grandes retos que hay para reducir los riesgos añadidos que tiene la inteligencia artificial.
“La IA ha calado a todos los niveles, pero el Shadow AI bajará cuando el coste salga a la luz y empresas como Anthropic o OpenAI salgan a bolsa”
Javier Cantón, chief technology innovation officer, Plain Concepts
El segundo de ellos es el aspecto financiero. Aunque ya ha habido casos de proveedores de IA que han empezado a elevar los costes, como Microsoft, todavía estamos en un contexto en el que la inteligencia artificial está, de alguna manera, financiada por sus grandes proveedores. La expectativa compartida apunta a un cambio de paradigma hacia 2027: a medida que los grandes desarrolladores salgan a bolsa y deban generar beneficios directos, los costes de suscripción y pago por uso se incrementarán de manera notable. Esta corrección del mercado obligará a las organizaciones a migrar del pago por consumo a modelos de tarifa plana, compromisos anuales o al alquiler de GPUs dedicadas.
Javier Cantón, chief technology innovation officer de Plain Concepts, señala que "con los clientes normalmente trabajamos en modelos híbridos. Solemos utilizar la inteligencia artificial a través de API porque es la manera más rápida de validar que un escenario tiene sentido y poder valorar el ROI que tiene. Pero, para controlar internamente el coste y el Shadow AI, desarrollamos plugins de navegador y un AI Gateway propio. Todo el acceso a modelos en la compañía lo hacemos a través de ese AI Gateway, que actúa como un firewall antes de que el conocimiento de la empresa salga hacia fuera, aplicando políticas para verificar, por ejemplo, que no salgan números de DNI, códigos IBAN o nombres de proyectos".
“Las regulaciones sobre dónde reside el dato condicionan mucho las decisiones; en el sector sanitario te obligan a validar rigurosamente el producto”
Rafael Sanmartín de la Fuente, digital security manager, Quibim
Carlos Muñoz-Romero, CEO & co-Founder de Monoceros Labs, explica que, "en los 9 años que llevamos trabajando en tecnologías de voz, el salto tecnológico que ha supuesto la IA generativa nos ha hecho muy dependientes de las GPUs. En el mercado vemos un alto coste y una limitación en el acceso a ese tipo de computación, sobre todo a nivel de inferencia, lo que dispara el coste de manera abismal. Por eso, encontrar el equilibrio con soluciones on-premise, no solo por la protección de los datos, sino también por la disponibilidad y el coste para el cliente, se convierte en un elemento crítico y en una limitación clara a la hora de encontrar y dar servicio a los clientes".
Caminando hacia la fotocopia de la fotocopia
La democratización de la generación automática de código mediante IA ha introducido profundas transformaciones en la ingeniería de software y la consultoría. Durante la mesa se advirtió del riesgo derivado de la creación apresurada de aplicaciones sin arquitectura previa, lo que está generando un preocupante "cementerio de aplicaciones" sin mantenimiento, seguridad ni escalabilidad a medio plazo.
Esta realidad ha reconfigurado por completo el perfil profesional del desarrollador de software. Escribir líneas de código ha dejado de ser el indicador principal de productividad; hoy en día el trabajo del ingeniero de software tiene que ver con su juicio arquitectónico, la evaluación de riesgos, la ciberseguridad y el diseño de la ingeniería que rodea a cada proyecto. La IA no sustituye la responsabilidad, sino que desplaza el cuello de botella desde la fase de construcción hacia la fase de verificación y auditoría, una tarea que debe permanecer indispensablemente bajo supervisión humana.
“En entornos regulados, hay un coste oculto en el tiempo que exige validar las herramientas de IA, definir los casos de uso y hacer los análisis de riesgos”
Pablo Martínez, CTO y director de Desarrollo, Sisteplant
El plano de la ciberseguridad y la regulación representa uno de los desafíos más urgentes identificados por los expertos. En el panorama actual, la velocidad a la que la IA detecta y explota vulnerabilidades ha transformado los tiempos de respuesta: de los márgenes de semanas de antaño se ha pasado a ventanas críticas de escasos minutos. Los casos más notorios conocidos este año, en los que algunos agentes de IA han demostrado una preocupante capacidad para detectar vulnerabilidades, han puesto sobre la mesa el riesgo que suponen los últimos agentes de IA. La visión generalizada sobre este fenómeno es que tiene un importante componente de marketing.
En todo caso, un fenómeno emergente que genera especial inquietud es la degradación del entrenamiento de los propios modelos debido a la sobreabundancia de datos sintéticos en la red. El volumen masivo de datos y código generados sintéticamente está provocando el efecto de "la fotocopia de la fotocopia", donde las iteraciones sucesivas pierden fidelidad respecto al conocimiento original. Esta contaminación del ecosistema digital ha vuelto a poner en valor las fuentes primarias no adulteradas, como entrevistas humanas reales, datos de campo, investigaciones verificadas y bases de conocimiento estrictamente auditadas.
“Aquellas soluciones que necesitan estar en un entorno privado, las podemos ofrecer articulándolas con una nube pública soberana”
Guillermo Arana, sales manager, IONOS Cloud España
El valor del canal y las certezas que exige el tejido empresarial
Frente a la complejidad técnica y la incertidumbre del mercado, el tejido empresarial español, compuesto en un 98% por pequeñas y medianas empresas, demanda certezas claras a sus socios de infraestructura y a las firmas de consultoría. Entre los requisitos imprescindibles exigidos a los proveedores cloud destacan una alta disponibilidad garantizada, el uso de tecnologías estandarizadas que eviten el vendor lock-in, esquemas de precios transparentes que disipen la impredecibilidad de la tokenización y una garantía jurídica rotunda en materia de privacidad de datos.
Guillermo Arana, sales manager de IONOS Cloud España, explica que en la compañía "trabajan con inteligencia artificial, ya no solo para nosotros solos, sino para nuestros partners y clientes. Trabajamos con dos modelos principales: el modelo de inferencia sobre modelos ya entrenados y sobre modelos que tienen que ver con utilizar infraestructura con GPU para poder desarrollar tus propios productos. Todos nuestros modelos y GPUs están basados en Europa, por lo cual el cumplimiento normativo y la soberanía del dato son fundamentales".
“Somos una muy buena alternativa a los hiperescalares porque cumplimos con ciertos parámetros normativos y de soberanía que ellos no cumplen”
Alberto Fernández Díaz de Lope, partner manager, IONOS Cloud España
Por su parte, Alberto Fernández Díaz de Lope Díaz, partner manager en IONOS Cloud España, destaca su "programa de partners pensado para ayudar tanto a los MSPs que ofrecen servicios y consultoría, como para ISVs que tienen una solución que quieren alojar en la nube y sobre la que basar sus servicios. Todo esto con la premisa de la soberanía y como una empresa europea grande que se posiciona como alternativa a los hiperescalares, los cuales están bajando su cuota en Europa, especialmente en Alemania y Francia. Para esos clientes donde no basta con que el dato esté alojado en Europa, sino que el proveedor sea europeo, un proveedor cloud soberano es fundamental".
Los elementos centrales en torno a los que ha girado la mesa han sido la conveniencia de los modelos de infraestructura híbrida, la necesidad de una mayor transparencia y predictibilidad de los costes de la IA basada en la nube y la soberanía de los datos y de la inteligencia artificial como una base fundamental en el entorno europeo. Sobre todo ello, la relevancia de todos los elementos del ecosistema de la IA y la necesidad de adaptarse según las necesidades concretas de las organizaciones y la evolución de su madurez.
