La IA al mando de las decisiones públicas ¿transparencia o amenaza para nuestros derechos?
- Protagonistas AAPP
María Gómez, consultora jurídica en Kalaman Consulting, analiza el impacto de los algoritmos y la inteligencia artificial en los derechos fundamentales de los ciudadanos dentro del ámbito de la administración pública. La experta destaca, entre otras cosas, el fallo crucial del Tribunal Supremo sobre el algoritmo BOSCO.
La sentencia BOSCO implica que los ciudadanos tienen derecho a conocer bajo qué parámetros deciden los algoritmos, y que el código fuente ya no puede ser tratado como un "secreto técnico" en los pliegos de contratación pública. A raíz de la sentencia de Bosco, se han asentado principios fundamentales: los sistemas deben ser revisables y auditables, y la transparencia debe alinearse con la seguridad
Algunas iniciativas están encaminadas en la dirección correcta, como el registro público donde los ciudadanos pueden ver qué algoritmos afectan a las decisiones públicas en la Comunidad Valenciana, las "fichas de transparencia algorítmica" para estandarizar la información accesible al público creadas en Cataluña o el proyecto BRAVA de la CNMC para detectar fraudes en contratación pública, una IA que "no supone una caja negra porque en todo caso sí que se está dando información de cómo funciona".
------------------------------------------------------------------
Esta presentación forma parte del XI Foro de Administración Pública Digital. Puedes acceder a la cobertura completa de del foro en el especial que publicamos en el número de junio de IT Digital Magazine. En esta ocasión, el Foro de AAPP ha contado con el apoyo de Strategy, Barco, HP, SCC/HPE, SonicWall, Stormshield y WatchGuard. Desde este enlace puedes acceder a los contenidos de vídeo del foro bajo demanda.
------------------------------------------------------------------
Al registrarte en este evento online, accedes a la cesión de tus datos a los patrocinadores del mismo: Strategy, Barco, HP Inc, SonicWall, SCC/HPE, Stormshield y WatchGuard.
