Desde 2007, Europa gastou 341 millóns de euros en investigar a aplicación de tecnoloxía de Intelixencia Artificial (IA) a cuestións como o asilo, a inmigración e o control de fronteiras, apesar de que a Lei de IA que se debate actualmente nas institucións europeas non ofrece garantías sobre as malas prácticas destas tecnoloxías. A situación é preocupante pola grave ameaza que paira sobre os nosos dereitos e liberdades civís.

 

Pixabay

David Bollero

Un novo relatorio de Statewatch, intitulado A clear and present danger: Missing safeguards on migration and asylum in the EU’s AI Act (Un perigo claro e presente: ausencia de salvagardas sobre migración e asilo na Lei de IA da UE), recolle até 51 proxectos dirixidos a aproveitar o potencial desta tecnoloxía aplicada en robots autónomos de control de fronteiras, identificación biométrica e dispositivos de verificación e sistemas automatizados de recompilación e análise de datos.

A UE financia estes proxectos através dos seus programas de I+D; o plano vixente na actualidade (2021-2027), Horizon Europe, contempla un total de 93.000 millóns de euros, dos cales uns 1.400 millóns son destinados ao que a UE denomina “seguranza civil”, que recolle un primeiro programa de traballo con fondos de 55 millóns de euros para proxectos de “xestión de fronteiras”.

O Reino de España ten un papel protagonista nestas investigacións, non só co Ministerio do Interior, que é o segundo europeo que máis fondos recibiu, con case 4,6 millóns de euros, senón tamén através da Garda Civil (915.000 euros) ou o Centro de Satélites da Unión Europea (792.000 euros), así como coas súas empresas. De feito as dúas empresas que máis financiamento acumularon na anterior convocatoria de proxectos FP7 e Horizon2020 dirixidos a investigar a IA para control de fronteiras foron españolas: Indra -da que o Estado ten un 28% de participación-, con cinco proxectos, aproximouse dos 8 millóns de euros, en canto Isdefe (Enxeñaría de Sistemas para a Defensa de España), propiedade do Estado, recibiu algo máis de 7,3 millóns de euros con tres proxectos. Paralelamente, outras dúas empresas españolas como TTI Norte, con tres proxectos e máis de 1,5 millóns de euros; e GMV Aerospace and Defence, con tres proxectos na convocatoria H2020, recibiu case outros 1,5 millóns de euros. No todo, 163 millóns de euros que van a empresas privadas, non só europeas, mais tamén extracomunitarias como Israel Aerospace Industries, entre outras.

O ámbito académico tamén recibe financiamento europeo para acometer estas investigacións e nos últimos 15 anos contou con 54 millóns de euros. No caso español destacan a Universidade Autónoma de Barcelona, que recibiu 1,3 millóns por dous proxectos, a Universidade Rey Juan Carlos, cuns 845.000 euros para un par de proxectos e a Universidade Politécnica de Valencia, que obtivo perto de 755.000 euros para participar noutro proxecto.

En paralelo con estes proxectos debátese unha Lei de IA que inquieta defensores das liberdades civís como Statewatch, que en colaboración con outras organizacións presentou esta mesma semana propostas de alteracións para tratar de garantir os dereitos fundamentais ás persoas que soliciten asilo, sexan migrantes ou teñan que realizar trámites fronteirizos.

O abuso na utilización da IA torna especialmente vulnerabeis eses colectivos que, xa de si, presentan un elevado nivel de vulnerabilidade ao fuxiren dos seus países de orixe. Entre os riscos que os ameazan, derivados destes proxectos financiados pola UE, destacan os sistemas de identificación biométrica remota, creación de perfís integrados en bases de datos da UE ou sistemas de análises predictivos, co perigo dos rumos que hai por trás dos algoritmos. Tal como está redactada a actual Lei de IA, estas ameazas ou bem non se enfrentan adecuadamente ou, directamente, nin sequera son tomadas en consideración, o que alarmou os defensores das liberdades civís.

Un exemplo da aplicación da IA nalgún destes proxectos concrétase en tratar de predicir o número probábel de requerentes de asilo cun mes de antecedencia, así como escenarios a medio prazo. Para iso, Europa promove o uso de algoritmos que se alimenten con datos tanto dos países de orixe como de tránsito, moitos deles obtidos a partir de redes sociais en tempo real, cruzándoos con datos de chegadas ás fronteiras da UE e o histórico de pedidos de asilo. Frontex, de feito, xa monitoriza activamente as redes sociais para estar a par dos movementos de grupos de persoas cara ás fronteiras comunitarias.

O proxecto iBorderCtr, dotado con 4,5 millóns de euros, analisa os micro-xestos das persoas en fronteira para detectar posibeis riscos e, en función diso e da avaliación dos funcionarios fronteirizos, permitir ou recusar a entrada ao país. Segundo indica o relatorio de Statewatch, durante o proxecto piloto foron probados mesmo detectores de mentiras automáticos nos aeroportos da Hungría, Grecia e Letonia. Os falsos positivos deste tipo de análise de micro-xestos desaconsellan a súa utilización, aínda que non parece que a UE iso importe demasiado. De feito, xa probou este tipo de tecnoloxía para analisar expresións faciais, a fala e a linguaxe corporal para verificar a identidade das persoas e así, cruzando datos, contrastar a súa vulnerabilidade e determinar o estado do seu pedido de asilo ou se foron derivadas a servizos médicos, de saúde mental, etc., influíndo o resultado na decisión de detención ou non.

Nesta mesma liña Frontex pretende utilizar o seu sistema AVATAR para realizar avaliacións automáticas da verdade. Isto tradúcese na análise do movemento dos ollos, as mudanzas no ton da voz, a postura ou as expresións faciais para determinar en que medida un individuo é mentiroso ou perigoso. AVATAR xa foi experimentado no Canadá e a Rumania, que manifestaron serias dúbidas sobre os seus rumos, pois nin sequera considerou as diferenzas á hora de comunicarnos segundo a nosa cultura e idioma, así como o impacto de sufrir un trauma, como acontece coas persoas refuxiadas.

Outro exemplo terríbel que se recolle no relatorio é o desenvolvido en Grecia co sistema Centaur, máis dirixido ao control masivo que ao benestar das persoas refuxiadas. Ese proxecto é financiado pola UE e diríxese especificamente ás illas de Lesbos, Quíos, Samos, Leros e Kos. Inicialmente contemplábase o uso de drones, así como de cámaras nos perímetros dos campos de refuxiados e refuxiadas para detectar calquera incidencia, reforzando as medidas con detectores de metais e máquinas de raios X. Agora, serán empregados tamén algoritmos para analisar os movementos. O orzamento do proxecto, sen confirmar pola UE, ronda os 33 millóns de euros e confire a estes campos carácter de prisión.

Tanto o desenvolvemento destas investigacións como a redacción da Lei de IA deberían ser moito máis celosas de salvagardar as liberdades civís, considerando de alto risco algúns dos sistemas e tecnoloxías que pretenden aplicar ao control fronteirizo e as persoas migrantes.

Público