Las empresas deben eliminar herramientas prohibidas por la Ley de Inteligencia Artificial

Los abogados especializados en inteligencia artificial (IA) de Osborne Clarke están alertando a las empresas en la Unión Europea (UE) y a las organizaciones globales con clientes en la región que tienen menos de 10 semanas para retirar una serie de herramientas de IA prohibidas o podrían enfrentarse a multas significativas. El nuevo Reglamento de IA de la UE entró en vigor el 1 de agosto de 2024 especifica una serie de categorías de IA que estarán específicamente prohibidas a partir de seis meses de su entrada en vigor, es decir, desde el 2 de febrero de 2025.

"Dados los plazos establecidos en el Reglamento europeo de IA, resulta esencial que las empresas pongan en marcha de forma inmediata procesos dirigidos a analizar cualquier herramienta de IA que pueda entrar en conflicto con las disposiciones aplicables del Reglamento”, señala Rafael García del Poyo, socio director del Departamento de Derecho de IT/IP en Osborne Clarke España. “Resulta esencial que las empresas no sólo eliminen dentro de los plazos previstos las herramientas de IA consideradas prohibidas, sino que también implementen procedimientos internos destinados a abordar la gestión de los riesgos derivados del uso de cualquier tipo de herramientas de IA y a dotarlas de la transparencia necesaria para cumplir con estas nuevas obligaciones legales ".

Prohibiciones según el artículo 5 de la Ley de IA

Las aplicaciones de IA prohibidas incluyen aquellas que supongan riesgos inaceptables para la salud, la seguridad o los derechos fundamentales. Entre ellas se encuentran:

-  Sistemas de IA que utilicen técnicas subliminales, manipuladoras o engañosas para distorsionar significativamente el comportamiento de las personas, causando daño grave.

-  Sistemas que exploten vulnerabilidades relacionadas con la edad, la discapacidad o circunstancias socioeconómicas para influir en el comportamiento y causar daño significativo.

-  Puntuaciones sociales basadas en características personales que resulten en un trato discriminatorio.

-  Creación de bases de datos de reconocimiento facial mediante web scraping no autorizado o uso de imágenes de CCTV.

-  Sistemas de inferencia emocional en entornos laborales o educativos, salvo por motivos médicos o de seguridad.

-  Categorización biométrica que utilice datos sensibles, como raza, religión u orientación sexual, salvo excepciones para la aplicación de la ley.

-  Sistemas de IA utilizados para predecir delitos basándose únicamente en perfiles o características de personalidad.

-  Reconocimiento facial remoto en tiempo real en espacios públicos, con excepciones limitadas.

El incumplimiento de la retirada de estos sistemas de IA en la UE podría implicar que, desde el 2 de agosto de 2025, las autoridades nacionales de los países de la UE puedan imponer multas de hasta 35 millones de euros o el 7% de la facturación global, lo que sea mayor, según lo establecido en el artículo 99(3) de la Ley de IA.

Benjamin Docquir, director de IP, IT y datos en Osborne Clarke Bruselas, añade que, "con menos de 10 semanas para garantizar el cumplimiento, las empresas deben actuar rápidamente para evaluar sus riesgos en esta área y desarrollar planes que aborden posibles áreas de incumplimiento. Las multas han sido fijadas a un nivel más del doble que las del RGPD, y esperamos que la UE aplique el nuevo régimen desde el primer día; no esperamos un periodo de gracia como ocurrió con el RGPD. La Comisión Europea cree que se ha dado suficiente aviso para que todas las empresas de la UE, incluidas aquellas bajo el Acuerdo del Espacio Económico Europeo, y las organizaciones internacionales con presencia en la UE, cumplan con las normativas".