El mayor riesgo de la IA está en la información falsa y la desinformación

El informe "AI Pulse Poll" elaborado por ISACA muestra la delicada relación entre la inteligencia artificial y la ciberseguridad en el entorno corporativo. La asociación destaca que el 35% de las organizaciones europeas no sabe si ha sufrido un ciberataque impulsado por inteligencia artificial. Un dato revelador por la brecha que supone entre el ritmo de las amenazas basadas en IA y la capacidad de las empresas para ver y gestionar sus riesgos.

Otros datos de la encuestan refuerzan esa impresión. Por ejemplo, pese a que el 82% de las organizaciones permiten el uso de IA (el 74%, específicamente IA generativa), todavía es generalizada (87%) la preocupación por su uso no autorizado por parte de los empleados. De hecho, solo el 42% dispone de una política formal e integral de inteligencia artificial y el 33% no exige a los empleados declarar la contribución de la IA en sus productos de trabajo.

Con todo, para el 87% de los encuestados el principal riesgo de la inteligencia artificial lo forman la información errónea y la desinformación, seguido por las vulneraciones de privacidad (75%) y la ingeniería social (60%). Para el 71%, la IA ha hecho los ataques de phishing e ingeniería social más difíciles de detectar; para el 58%, hace más difícil autenticar la información digital y para el 38% ha disminuido la confianza en los métodos tradicionales de detección.

En cualquier caso, no todo lo relacionado con la inteligencia artificial supone un riesgo, sino que mejora también la propia ciberseguridad. Para el 43% de los encuestados, ha mejorado la capacidad de su organización para detectar y responder a las ciberamenazas y un 34% señala que la están implementando precisamente para mejorar su ciberseguridad.

Chris Dimitriadis, director de Estrategia Global de ISACA, considera que “la IA ha cambiado fundamentalmente el panorama de amenazas. Los atacantes ahora pueden hackear a la velocidad de la intención, y demasiadas organizaciones ni siquiera saben si ya han estado en el punto de mira. El hecho de que tantas empresas operen sin la gobernanza necesaria para ver dónde se está utilizando la IA, por no hablar de cómo, agrava significativamente esa exposición”.