El imparable camino hacia una IA ética y fiable

José Varela, responsable de Digitalización de UGT Secretaría del Gabinete Técnico Sector de Comunicaciones y Cultura

Aunque alguno de estos pronunciamientos sea de corte político y otros de carácter regulatorio, comparten un contundente mensaje sobre las preocupaciones alrededor de una tecnología que, como tal, no es beneficiosa ni perjudicial: será como nosotros queramos que sea y seguramente tendrá consecuencias aparcadas en ambos lados.

Existe un consenso generalizado sobre la importancia que la IA tendrá sobre nuestras vidas durante las próximas generaciones, en contextos sociales, económicos y laborales. Su pujanza innovadora es un hecho, y sus posibilidades a veces superan hasta nuestra imaginación (la versión de ChatGPT-4omni es buena prueba de ello) lo que genera a su vez severas preocupaciones sobre si tales posicionamientos políticos y legislativos no laminarán su potencial. Pero, a su vez, el objetivo de cualquier innovación es el progreso de la humanidad, y es díficil conciliar esa finalidad si la explotación de la IA lamina derechos humanos fundamentales.

De ahí parten las obligaciones que emanan de las nuevas regulaciones. Se persigue configurar sistemas de IA fiables, humanistas (es decir, centrados en el ser humano) y garantistas. Para construir los futuros sistemas de Inteligencia Artificial (y para adaptar los existentes) habrá que diseñarlas, programarlas y explotarlas bajo un enfoque basado en el riesgo, lo que impele a proveedores y responsables del despliegue a repensar los modelos de desarrollo.

La lista de requerimientos es larga (gestión riesgos, evaluación de impacto, supervisión humana, transparencia y comunicación, calidad de los datos, precisión, solidez, ciberseguridad, vigilancia pos-comercialización, record-keeping…) y quizá se pueda entender que todas ellas descansan en los equipos de compliance. Nada más lejos de la realidad.

Los equipos de TI van a estar plenamente concernidos por este sustancial cambio, puesto que las etapas de planificación, ejecución y puesta en producción serán claves para superar la fase de cumplimiento. El diseño deberá contemplar la capacidad de explicabilidad a terceros, evitando cualquier funcionamiento en modo “caja negra”. En el caso de las consideradas IA de Alto Riesgo vendrán acompañas de instrucciones de uso con “información concisa, completa, correcta y clara que sea pertinente, accesible y comprensible”.

La planificación deberá hacer constar una descripción de todos los procesos y riesgos asociados en la interacción de la IA con su entorno, bajo un esquema de supervisión humana que no sólo pueda corregir al sistema, sino que incluso pueda detener su funcionamiento de forma segura.

Asegurar un funcionamiento correcto será otra ardua tarea, bajo una diligencia de prevención que deberá incluir acciones correctoras y de minimización de daños ante comportamientos inesperados, usos indebidos o un desempeño disfuncional, solapándose con los requisitos de ciberseguridad, precisión y robustez.

La gobernanza de los datos, si ya era importante, ahora se convierte en esencial: habrá que limpiar a conciencia, asegurando que sean suficientemente representativos y pertinentes dentro de cada contexto de aplicación y en todas las fases de entrenamiento, validación y prueba. Finalmente, habrá que incluir un apartado de conservación de registros de la actividad de la IA (logs), que podrá ser consultado por actores externos en determinadas circunstancias.

En conclusión, las nuevas exigencias regulatorias supondrán un ingente e ímprobo esfuerzo, lo que a su vez conllevará un apreciable incremento de recursos humanos y materiales. Un acopio para el que solo quedan un par de años.

 

Por José Varela, responsable de Digitalización de UGT, Secretaría del Gabinete Técnico Sector de Comunicaciones y Cultura