La Ley de Inteligencia Artificial de la Unión Europea (UE) tendrá efectos de amplio alcance en diversas industrias, uno de los ámbitos en los que se regulará el uso de la IA es en el cruce de fronteras.
Actualmente, la UE está en la puesta en funcionamiento de nuevas tecnologías fronterizas a través de varios proyectos de innovación, incluyendo aquellos que se basan en la biometría. Entre ellos se encuentran los proyectos Odysseus y FlexiCross, que actualmente están probando tecnologías fronterizas en las fronteras de países como Grecia, Rumanía, Moldavia y Bulgaria.
Odysseus está diseñado para facilitar el cruce de fronteras mediante la verificación de identidad sin fisuras, pasaportes digitales y virtuales, reconocimiento facial, autenticación de comportamiento y otras tecnologías como drones. El proyecto involucra a 14 socios de doce países europeos
De manera similar, FlexiCross (Experiencia flexible y mejorada de cruce de fronteras para pasajeros y autoridades) tiene como objetivo impulsar la seguridad fronteriza al tiempo que agiliza la gestión con herramientas como evaluación predictiva de riesgos, controles biométricos, intercambio de datos, interfaces hombre-máquina, realidad aumentada para conocimiento de la situación y más.
El objetivo de este proyecto es elaborar un conjunto de herramientas compuesto por al menos 20 módulos. Sin embargo, el análisis de riesgos éticos ha revelado numerosos aspectos que deben mejorarse, según Ioana Cristina Cotoi, investigadora jurídica de Engineering Ingegneria Informatica SPA.
Proyectos no exentos de riesgos… pero trabajan en ello
Los riesgos evaluados incluyeron desde sesgos y trato injusto en los sistemas de reconocimiento biométrico y detección de patrones inusuales hasta electrocución por drones o sistemas biométricos defectuosos.
De acuerdo con Cotoi, otro riesgo que han identificado es el aumento del estrés y la ansiedad entre los viajeros debido a la vigilancia constante y el uso de sistemas de monitoreo avanzados como drones, escaneo de huellas dactilares y otros controles biométricos en los cruces fronterizos.
La seguridad y protección de los datos se perfilaron como el riesgo predominante, seguido de las preocupaciones por la vigilancia, los riesgos para la salud y la seguridad y, finalmente, la violación de los derechos de los viajeros, como la libertad y la igualdad. FlexiPass ha ideado una serie de estrategias para mitigarlos.
Según su análisis, el sesgo se debe abordar garantizando la diversidad en la recopilación de datos durante el entrenamiento del algoritmo, refinando los algoritmos de detección y proporcionando opciones de detección alternativas. La vigilancia o el uso inadecuado de la tecnología, en particular el reconocimiento biométrico, se deben mitigar mediante la aplicación de un estricto control de acceso.
Por último, se debe ofrecer apoyo a los viajeros cuando se encuentren en situaciones de estrés, y las autoridades fronterizas deberían implementar un proceso de control fronterizo claro y transparente.
Por otra parte, Odysseus ha introducido un procedimiento de análisis jurídico y categorización de las fronteras del riesgo de la IA utilizando herramientas de la UE como EU AI Act Compliance Checker y ALTAI (Assessment List for Trustworthy Artificial Intelligence). Tras las evaluaciones, el proyecto introducirá medidas de cumplimiento.
No dejes de leer: China reforzará la educación sobre IA en escuelas primarias y secundarias
Sigue nuestras redes sociales y se parte de nuestra comunidad