“La IA podría tomar decisiones de producción: accede a todos los datos en tiempo real”, Sergi Tello, EMDEP TestBoards

La mayor parte de compañías ha vivido una primera fase de habilitación y experimentación en torno a la inteligencia artificial, en la que primó el uso de los grandes modelos de lenguaje. Muchos de ellos se mantienen en su faceta más generativa, como asistentes. Si esa primera etapa de la nueva IA ya se consideró disruptiva, los agentes de inteligencia artificial son los que verdaderamente han introducido un cambio considerable en el modo en que se conciben los procesos de trabajo.

Para Sergi Tello, CISO & Global IT director en EMDEP TestBoards, considera que "hay que tratar los agentes de IA como si fueran un empleado más. Si tienes al responsable de una persona, entonces tienes un jefe que tiene que auditar que la inteligencia artificial esté haciendo bien las cosas. Además, esa IA también tiene unos niveles de acceso. Antes en IT dabas un acceso a los empleados; incluso si le dabas permisos de administrador, no usaba su acceso al dato porque ni sabía que lo tenía. Pero la IA sí utiliza los accesos que tenga. Tienes que estar seguro de qué dato le pones; si no, no puedes empezar con ella. Estamos viendo, por ejemplo, cómo evitar que aprenda datos sensibles de los currículums. Hay gente que pone datos muy sensibles en los currículums y no se pueden usar. Tienes que evitar que la IA tome decisiones basándose en el sexo o la religión. Aunque el dato para ti es irrelevante, si la IA lo tiene, es un problema a nivel legal y de compliance... Hay que cumplir un marco ético que es lógico, no me parece mal que la IA no tenga una ideología".

Los comentarios del experto se dieron durante la mesa redonda "Entre la eficiencia y la ética: el nuevo rol de TI en la integración de agentes de IA". Puedes ver todos los contenidos de la jornada desde este enlace.