Los líderes financieros españoles exigen más transparencia a la IA

La inteligencia artificial continúa ganando terreno en los departamentos financieros, pero su adopción está lejos de ser automática. Según el nuevo whitepaper de Sage, “The Emerging Economics of AI in Finance”, el 68% de los líderes financieros en España rechazaría una herramienta de IA altamente precisa si no pudiera explicar cómo llega a sus conclusiones. La demanda de transparencia, auditabilidad y control se ha convertido en un factor decisivo para la confianza en estas tecnologías.

El estudio revela que más de la mitad de las organizaciones estaría dispuesta a pagar más por soluciones de IA que ofrezcan mayor visibilidad sobre sus procesos de decisión. La precisión, por sí sola, ya no es suficiente.

 

Hasta 30 horas semanales revisando resultados de IA

Uno de los hallazgos más llamativos del informe es el auge del denominado “Verification Tax”, el tiempo que los equipos financieros dedican a revisar, reconstruir y validar resultados generados por IA o automatización.

En España, los profesionales dedican una media de 16 horas semanales a estas tareas, el 50% afirma invertir 15 horas o más cada semana, y casi uno de cada cinco (19%) asegura dedicar 30 horas o más a verificar resultados. Esta carga de trabajo evidencia que la falta de explicabilidad en los sistemas de IA no solo genera desconfianza, sino también un coste operativo significativo.

Según Kevin Permenter, Research Director de IDC, “las organizaciones que obtendrán ventaja duradera serán las que conviertan la confianza en procesos concretos. Quienes no lo hagan se verán desbordados por la sobrecarga de verificación”.

El informe confirma que la auditabilidad es ya un criterio esencial. Más de la mitad de las organizaciones encuestadas considera que la IA sin capacidad de mostrar su razonamiento supone un riesgo demasiado elevado, especialmente en áreas donde los errores pueden tener consecuencias regulatorias, fiscales o reputacionales.

Como explica Aaron Harris, CTO de Sage, “en finanzas, decir que algo es casi correcto siempre ha significado que era incorrecto. El coste de la incertidumbre es demasiado alto. La próxima era de la IA se ganará con infraestructura de confianza, no solo con capacidad técnica”.

El estudio también revela un cambio en las competencias más valoradas por los líderes financieros. El riesgo, la gobernanza y el criterio para la toma de decisiones se sitúan por encima de la contabilidad técnica profunda.

En España, estas habilidades alcanzan 32,1 puntos, frente a los 16,8 puntos otorgados a la contabilidad técnica. Los departamentos financieros se posicionan así como los principales supervisores de la IA, responsables de garantizar que los sistemas operen con rigor y trazabilidad.

 

Del modelo “Black Box” a la IA “Glass Box”

La investigación apunta que las organizaciones están abandonando los sistemas de IA tipo Black Box, donde el razonamiento es opaco, en favor de modelos Glass Box, que permiten entender las fuentes, la lógica y los pasos que llevan a cada recomendación. El 71% de los líderes financieros afirma que elegiría como partner preferente a un proveedor que adopte principios de diseño Glass Box.

En respuesta a esta demanda, Sage está orientando su estrategia de IA hacia modelos totalmente auditables, con resultados explicables y verificables, acciones controladas por el usuario y trazabilidad completa de cada decisión impulsada por IA. El objetivo es permitir que los equipos financieros trabajen con plena confianza y responsabilidad.