Entre la eficiencia y la ética: el nuevo rol de TI en la integración de agentes de IA
- IT Televisión
La inteligencia artificial está presente en los entornos corporativos desde los primeros desarrollos de machine learning y deep learning, pero ha sido la llegada de la IA generativa y agéntica la que está transformando las organizaciones. Conocemos un poco mejor su evolución junto a representantes de Atmira, Ávoris, Gestamp, QuirónSalud, Vithas y Workday.
Los porcentajes de adopción estimada varían, pero todos los estudios lanzados en los últimos meses coinciden en el que el despliegue de la inteligencia artificial es enorme. A principios de año, Workday, firma de software cloud para la gestión de finanzas y recursos humanos, presentó su informe “Más allá de la productividad: medir el valor real de la IA”, según el cual el 82% de las organizaciones ya está utilizando agentes de inteligencia artificial, con una amplia confianza (88%) en la mejora de productividad que genera en el entorno corporativo.
Pero el informe revelaba también otros datos que son interesantes para entender la relación de los empleados con la inteligencia artificial. Si bien el 74% de los empleados se siente más productivo gracias a la IA, casi el 40% del tiempo ahorrado por ello se invierte en supervisar el trabajo realizado por la inteligencia artificial. Además, aunque estén cómodos con una IA como asistente o subalterna, el 70% no se sentiría cómodo reportando a una IA.
Hemos querido conocer más de cerca cómo están trabajando los equipos de TI en la integración de la inteligencia artificial en la empresa. Cómo la están utilizando y cuál es su impacto la organización y los procesos, también en términos éticos y legales. Hemos contado para ello con representantes de Atmira, Ávoris, Gestamp, QuirónSalud y Vithas, en una mesa redonda que ha contado con el apoyo y la participación de la propia Workday.
“En la actualidad, los agentes de IA pueden desarrollar el 20% de las tareas, pero en el futuro podrán desarrollar el 80%, con las implicaciones que tiene”
Íñigo Sanz, CTO, Atmira
Un plan para la inteligencia artificial
En todos los casos, la adopción de la inteligencia artificial forma parte de un plan estratégico más amplio, en el que la IA ha merecido un tratamiento distintivo tanto por su potencial tecnológico como por el impacto que puede tener en el conjunto de la organización. El modo en que se afronta el despliegue de la inteligencia artificial tiene mucho que ver con el sector al que pertenece cada empresa, pero también con su idiosincrasia propia y el nivel tecnológico previo.
Iñigo Sanz, Chief Technology Officer de Atmira, explica que “arrancamos dos líneas de trabajo, una táctica y otra más estratégica. La táctica consiste en poner herramientas, asistentes. Primero intentamos probarla internamente y, cuando vimos que el mercado tenía un nivel suficiente para poder utilizar herramientas de mercado, hemos arrancado un proceso de escalado, que consiste básicamente en llevar asistentes o pequeñas automatizaciones a tareas para toda la compañía. En cuanto a la línea estratégica, vimos rápidamente que esto nos iba a cambiar el modelo de negocio y empezamos a desarrollar agentes. Sí vemos que el futuro pasa porque haya desarrolladores colaborando con agentes y que estos agentes pueden llegar a desarrollar de forma autónoma”.
Para Gabriel Ramis, CIO de Ávoris, “es importante adoptar la IA de forma escalonada. Que la IA recomiende y el humano decida. Creo que es la puerta para que toda la automatización no tenga un rechazo desde el minuto cero. Si hacemos partícipe al personal y entiende realmente qué hace ese agente de IA, el rechazo tiene que disminuir, la fricción tiene que ser menor. Cuando vean que les puede aportar valor, el foco será dedicarse a otro tipo de tareas porque eso ya es una commodity, ya lo tienen por defecto. Hay que reenfocar y que la gente se dedique a otras tareas de más valor”.
“Aplicamos la IA en fases y la alineamos para que la cultura también se vaya acostumbrando y podamos tener una transición más suave”
Gabriel Ramis, CIO, Ávoris
Por su parte, Alejandro Martos, director regional de Grandes Cuentas en Workday, señala que “la estrategia que estamos siguiendo tiene tres pilares. Nosotros tenemos un compromiso y un roadmap claro de desarrollo de agentes de inteligencia artificial, sobre nuestra plataforma y con nuestra tecnología, teniendo muy en cuenta el valor que aportan el negocio. El segundo pilar de nuestra estrategia consiste en proporcionar herramientas a nuestros clientes y a nuestro ecosistema de partners para que ellos mismos desarrollen. Y el tercero que tenemos es que los agentes que están desarrollando muchas compañías tecnológicas sean capaces de hablarse con los agentes de Workday. Y que se puedan gestionar dentro de la plataforma Workday. Gestionamos las personas, las finanzas y ahora los agentes”.
Cumpliendo con la IA
Más allá del impacto que tiene la actividad corporativa en la adopción y el manejo de la inteligencia artificial, hay que tener en cuenta que estamos en una de las regiones del mundo que tiene un cuerpo normativo más maduro. No solo hay que tener en cuenta cuestiones de privacidad, seguridad y ciberseguridad de los datos, sino que desde 2024 contamos con la Ley de Inteligencia Artificial, que supone un primer marco general para el uso de la IA y que pone vías a su desarrollo en la Unión Europea. Un buen ejemplo del cuidado en el despliegue de la IA lo pone Bernardo Blanco, director del Área de IP, Innovación y Digitalización del Departamento Legal de Gestamp:
“La Política General de IA constituye el punto de partida del modelo de gobernanza de la IA en la compañía. Su objetivo es establecer un marco común que permita ordenar, coordinar y supervisar el uso, desarrollo y contratación de soluciones de IA en todas las empresas del grupo. Esta política define los principios y criterios que rigen tanto la identificación de necesidades como la puesta en marcha de proyectos de IA, asegurando que se realicen de forma alineada con la estrategia corporativa, los requisitos legales y los estándares de seguridad y ética. A partir de esta política marco, se despliegan de forma coherente el resto de elementos del modelo de gobernanza de la IA: los procedimientos de demanda, gestión y aprobación de proyectos de IA, y los mecanismos de supervisión, evaluación y gestión de riesgos asociados. Todo ello se apoya en acciones de comunicación y concienciación que facilitan que el modelo sea conocido, comprendido y aplicado de manera consistente en la organización”.
“En los entornos de producción, la automatización plantea retos y, al mismo tiempo, oportunidades a las que hay que prestar especial atención”
Bernardo Blanco, director del Área de IP, Innovación y Digitalización del Departamento Legal, Gestamp
Iñigo Sanz, de Atmira, coincide en que, “para desarrollar los proyectos de IA, una condición necesaria es la seguridad, porque el mercado es tan volátil que es muy fácil equivocarse y elegir una herramienta incorrecta, un caso de uso que no sea el correcto. Montamos un comité y estamos muy activos en la homologación de herramientas y en la separación de los casos de uso. Por otro lado, tenemos que estar alineados con los clientes. El tercer punto es el cumplimiento, el compliance: no hay que olvidar que tenemos una regulación que hay cumplir, como la Ley de Inteligencia Artificial”.
Transformando las organizaciones
También hay un consenso generalizado respecto al impacto de la IA en las empresas a nivel de organización. Quizá sean cambios que empiezan a atisbarse ahora pero solo se confirmarán dentro de unos años, pero parece claro que está obligando a plantear nuevas formas de trabajo. Tanto para los CIOs como para todos los responsables de alto nivel supone una transformación que requiere nuevas formas de trabajo, de organización. Nuevas formas de pensar.
Así, para Gabriel Ramis, de Ávoris, “el del CIO ya no es un rol puramente tecnológico. Con la inteligencia artificial, tiene que saber gobernar con compliance y con legal. Y, además, no solo por la IA, sino a nivel contractual, en relación con otras empresas. Tienes que complementarlo, no te puedes centrar única y exclusivamente en tecnología. Esa es la evolución natural del rol. En todo caso, va a cambiar antes la forma de trabajar de los equipos, que los organigramas y las definiciones de los roles. Se va a dar más prisa la implantación de la inteligencia artificial y el nuevo formato de trabajo que los cambios organizativos”.
Ese cambio en los roles no se produce de la noche a la mañana. Y, sin embargo, ya ha empezado a darse en el momento en que las organizaciones han entendido que la inteligencia artificial es un elemento transversal que debe abordarse de forma unificada. Tanto en las empresas en las que la IA está menos evolucionada como en las que están dando grandes pasos hacia delante, se están organizando en torno a equipos transversales que toman las decisiones a alto nivel.
“Con la directriz ‘agente propone, humano valida’, al final la última palabra siempre se la estás dejando, en nuestro caso, al facultativo”
Antonio Herrero, responsable de IA y Big Data, QuirónSalud
Pedro Galbarro, director del Área de Aplicaciones de Vithas, recuerda que, en su caso, “estamos hablando de enfermos que cuando van a un hospital esperan ser cuidados por una persona, no por un robot. Donde tiene más sentido la IA para nosotros es en procesos administrativos o repetitivos, como los procesos de admisión. Hace ya un año se definió la política de IA, cumpliendo toda la normativa europea que salió al respecto. Se creó un comité de IA en el que participan casi todas las direcciones corporativas de la compañía. Este comité es mensual y se llevan a él casos de uso concretos. Tenemos tres o cuatro prototipos muy identificados, como en las áreas de recursos humanos y facturación”.
Bernardo Blanco, de Gestamp, comenta que, “si bien el CIO ha de desempeñar un papel central como impulsor y orquestador de la adopción de la IA, en el comité de IA tienen que estar representados directores de distintas áreas. En el comité de IA están todos sentados a la mesa para definir de manera conjunta las líneas estratégicas y la dirección que debe seguir la inteligencia artificial en la compañía. Cada función aporta su visión específica, por ejemplo, Recursos Humanos resulta clave en el diseño del modelo de concienciación y formación a empleados. En el comité de IA es imprescindible que todos conozcan la opinión del resto, que tomen decisiones unificadas y se apoyen mutuamente. Todo ello con un objetivo común: avanzar en la digitalización de la organización apoyándose en la IA, siempre enfocada a los objetivos estratégicos de la empresa”.
Más allá de la productividad
Aunque en algunos casos se permite que los casos de uso de la IA surjan de los propios empleados, como modelos tipo sandbox o walled garden, en general son esos comités los que definen las estrategias de adopción o sancionan los casos de uso que se proponen. A partir de ahí, se desarrollan proyectos que están teniendo un importante impacto en la forma de trabajar de las empresas, más allá de los beneficios asociados a la mejora de la productividad.
Antonio Herrero, responsable de IA y Big Data en QuirónSalud, explica que, “en cuestión de agentes, estamos empezando ahora a ponerlos en funcionamiento, después de que hayan superado todo un ciclo de vida de la inteligencia artificial, poniendo encima de la mesa sus ventajas e inconvenientes. Trabajamos desde hace más de seis años con inteligencia artificial y tenemos bastantes procesos que tienen algoritmos detrás. Por ejemplo, para predecir las personas que van a ir a urgencias o para hacer un resumen de la conversación entre médico y paciente, que se adjunta al informe de esa consulta. Seguimos evolucionando y tenemos bastantes algoritmos en el procesamiento de datos o en codificación automática, entre otras cosas. Estamos trabajando de forma intensa con la inteligencia artificial”.
“Crear un agente es relativamente fácil, pero hay que buscarle una aplicación a ese agente para que ayude a nuestra fuerza laboral ”
Pedro Galbarro, director del Área de Aplicaciones, Vithas
Alejandro Martos, de Workday, considera que “el reclutamiento es una de las áreas en que la inteligencia artificial es más eficiente. En nuestra plataforma tenemos un agente de reclutamiento capaz de procesar miles de currículos en un segundo, de filtrar y categorizar los currículos que encajan con la posición, de agendar directamente las entrevistas o mandar ofertas con las políticas de la compañía. Y es capaz de interactuar en lenguaje conversacional. Medimos su rentabilidad en la productividad que te da eso, en el tiempo ahorrado para Recursos Humanos, en el tiempo que tardas en incorporar esa persona a su posición... Hay muchísimas métricas y muchísimos drivers que vemos y cuantificamos. El retorno de los agentes de IA que ya están desarrollados y que aportan valor inmediato es muy alto y muy rápido, según estamos viendo en muchos clientes”.
Uno de los detalles que llamó la atención de la mesa redonda fue que, si bien la IA incrementa la productividad, en ocasiones las organizaciones no están preparadas para gestionarla con la suficiente velocidad. Volviendo al estudio de Workday que mencionábamos al inicio, con ese 40% del tiempo ahorrado dedicado a comprobar la inteligencia artificial, efectivamente en esta primera fase de adopción todavía se producen cuellos de botella para certificar lo hecho con IA.
No hay futuro sin IA
También hablamos un poco de futuro. Hay quien considera que la inteligencia artificial se acabe estancando, como muchas tecnologías que acaban tocando techo. O, como mínimo, que nos siga una evolución de constante ascensión como la que hemos vivido estos años. Pero el sentir más generalizado es el de que IA va a seguir creciendo, expandiendo sus propios límites y los de las organizaciones.
Pedro Galbarro, de Vithas, recuerda que “decía hace poco el CEO de NVIDIA que si tienes el mejor agente de IA que puedas imaginar… ¿Crees que va a ser una calculadora? No, será el que use la calculadora. La inteligencia artificial no es una herramienta, así que no se va a quedar como una herramienta: la IA va a sustituir al que usa la herramienta. La cuestión es cuándo pasará eso. Es como equiparar la IA a Internet. Internet no es una herramienta: la IA tampoco, desde mi punto de vista”.
“Los agentes de IA se van a convertir en un activo más de las compañías y los tienes que gestionar como un empleado más, en este caso un empleado digital”
Alejandro Martos, director regional de Grandes Cuentas, Workday
Para Antonio Herrero, de QuirónSalud, “en su adopción en las empresas, al final la inteligencia artificial va a hacer que las estructuras y las jerarquías se vayan aplanando. La democratización del dato y de la IA hará que esas estructuras jerárquicas y piramidales no vayan a existir. Serán los equipos de IT los que empiecen con este proceso, pero automáticamente se extenderá el resto de la empresa. Por otro lado, la capacidad de cómputo ha aumentado muchísimo, pero hay otro riesgo ahí, cada vez más cerca: la capacidad cuántica. En el momento que llegue la capacidad cuántica, podemos tener un problema”.
Habrá para quien hablar de computación cuántica sea un exceso de ciencia-ficción. Pero no hace mucho también lo era el tipo de inteligencia artificial con la que nos comunicamos con lenguaje natural. Los expertos hablan de años para el salto cuántico, no de décadas, y su cruce con la IA abre todo un mundo de posibilidades. Tantas como la propia inteligencia artificial está abriendo en compañías de todo tipo.
