La inteligencia artificial desafía el juicio crítico de los empleados

La adopción de la inteligencia artificial plantea nuevos retos a las organizaciones, según el informe The Value of AI, elaborado por SAP y Oxford Economics. Entre los más destacados se encuentran el impacto en las capacidades laborales de los empleados y los riesgos de seguridad derivados del uso de herramientas de IA no autorizadas.

Las principales preocupaciones ya no giran en torno a los aspectos técnicos de la IA, sino en sus efectos en la forma de trabajar. Los desafíos incluyen:

-     Diferencias en el nivel de conocimiento de la IA entre los empleados.
-     Debilitamiento del juicio crítico y la capacidad de toma de decisiones.
-     Pérdida del aprendizaje adquirido en el puesto de trabajo.
-     Distribución desigual de las competencias relacionadas con esta tecnología.

“El estudio confirma algo que vemos a diario: las empresas están implementando IA más rápido de lo que pueden gobernarla. El salto de la fase experimental a la producción no es un problema técnico: exige decidir quién supervisa la IA y con qué datos trabaja. Y ahí es donde la mayoría se detiene”, asegura Jorge Pérez, director de Plataforma Tecnológica y Datos e Inteligencia Artificial para el Sur de Europa de SAP

El 79% de las empresas considera que, para obtener el máximo valor de la IA, será necesario transformar la fuerza laboral más allá de la formación técnica. Además, el 78% cree que los programas actuales de capacitación no avanzan al mismo ritmo que las herramientas de IA. Como consecuencia, el 66% estima que habilidades como el pensamiento crítico o la colaboración se convertirán en competencias esenciales en un entorno dominado por la IA.

Para responder a este escenario, tres de cada cuatro organizaciones ya están implementando programas de actualización y reciclaje de competencias para preparar a sus profesionales, y el 69% está identificando los puestos que más pueden beneficiarse del uso de la IA.

 

El "Shadow AI": un riesgo emergente para la seguridad

El informe advierte sobre el crecimiento del Shadow AI, es decir, el uso por parte de los empleados de herramientas de IA no autorizadas para realizar su trabajo. Esta práctica se ha convertido en una de las principales preocupaciones para las empresas debido a sus implicaciones en seguridad y cumplimiento normativo.

Las consecuencias ya son visibles. El 54% de las organizaciones afirma que el uso de herramientas no autorizadas ha generado resultados inconsistentes o inexactos, el 48% ha experimentado fugas de datos o exposición de propiedad intelectual, el 38% ha enfrentado vulnerabilidades de seguridad, y el 34% reconoce haber incurrido en incumplimientos normativos.

El origen de estos problemas radica en que, a medida que la IA se integra en más procesos de negocio, las organizaciones reconocen la necesidad de reforzar sus mecanismos de control. Sin embargo, solo el 12% asegura disponer de las capacidades y procesos necesarios para gobernar la IA de forma eficaz. Además, apenas un tercio afirma contar con controles sólidos para supervisar el código generado por IA.

En el ámbito de la IA agéntica, las organizaciones identifican como principales dificultades el esfuerzo de integración, el aumento de problemas de fiabilidad conforme se amplía su uso y la complejidad para supervisar el comportamiento de los agentes inteligentes.

“Esta situación pone de manifiesto que es necesario un cambio en el enfoque de las empresas al desplegar y utilizar la IA, evolucionando hacia el concepto de Empresa Autónoma. Para ello, será fundamental conectar la IA con los datos y los procesos de negocio, dotarla de contexto y gobernanza para asegurar que los resultados sean fiables y generen valor real", recalca Jorge Pérez.