O sistema, capaz de identificar en segundos persoas a partir dunha imaxe, ofrece aos axentes unha nova vía de investigación, aínda que levanta fortes reservas sobre a súa transparencia.
.

El inspector Sergio Castro, en primer plano, en las oficinas de la Sección de Antropología Forense de la Comisaría General de Policía Científica, en Madrid.O inspector Sergio Castro, en primeiro plano, nas oficinas da Sección de Antropoloxía Forense da Comisaría Xeral de Policía Científica, en Madrid.Jaime Villanueva

 

Manuel G. Pascual

A Policía Nacional, a Garda Civil e os corpos rexionais en breve terán á súa disposición unha nova ferramenta para combater o crime: un sistema automático de recoñecemento facial. O programa ABIS (siglas en inglés de sistema automático de identificación biométrica), que utiliza intelixencia artificial para identificar sospeitosos en poucos segundos a partir de calquera tipo de imaxe, está actualmente en fase de constitución da base de datos, segundo fontes do Ministerio do Interior. Xa se fixeron testes-piloto con el e, así que estiver pronto, será empregado en investigacións policiais, nun principio só en delitos graves. Interior asegura que en ningún caso será usado para labores de vixilancia nin para recoñecemento en vivo de persoas en espazos públicos, aínda que analistas independentes consultados por El PAÍS opinan que o sistema non ofrece todas as garantías de transparencia esixibeis.

O algoritmo de ABIS, baptizado Cogent, foi desenvolvido pola empresa francesa de tecnoloxía militar Thales. O sistema compara a imaxe introducida polos axentes, extraída por exemplo dunha cámara de seguranza, coas fotografías disponibeis no sistema para buscar coincidencias. A base de datos coa que serán contrastadas as imaxes constará duns cinco millóns de recensións fotográficas faciais de detidos e sospeitosos que xa estaban fichados, segundo Interior (outras fontes falan de 5,6 millóns de imaxes de 3,9 millóns de persoas detidas). Eses ficheiros están a ser harmonizados para a que ferramenta sexa capaz de os ler.

A ese fondo de datos sumaranse as fotografías de quen for detido a partir do momento en que se comezar a utilizar o sistema. En ningún caso, sinalan desde a Policía Nacional, poderán ser usados rexistros de bases de datos civís, como a que contén as fotografías dos documentos de identidade, á que tamén ten acceso a policía. Interior leva polo menos tres anos traballando no proxecto, que sufriu varias demoras..

Cada persoa ten unha disposición única de trazos faciais. Nunha primeira fase, os sistemas de recoñecemento facial extraen o rostro da imaxe mediante unha tecnoloxía chamada visión computacional; sitúan en que parte da fotografía hai unha cara. A seguir, aplican un algoritmo a ese rostro para obter un patrón que o represente e diferencie dos outros. Os sistemas de intelixencia artificial permiten buscar ese patrón, que é único para cada individuo e que non varía co pasar dos anos, en extensos bancos de imaxes e ofrecer os resultados que máis se parezan. Cada algoritmo (cada fornecedor) ten unha fórmula propia para trazar os patróns e para buscar coincidencias.

A Axencia Española de Protección de Datos (AEPD) está en contacto con Interior “para abordar varios proxectos do Ministerio que poderían ter un impacto en materia de protección de datos”, entre eles ABIS. A axencia, que até xullo non sabía da existencia do proxecto, deberá determinar se o tratamento deste tipo de datos persoais supón ou non un risco tolerábel para os dereitos e liberdades da cidadanía. Pode a policía gardar para sempre datos faciais de suxeitos ou deben ser aplicados límites temporais? Baixo que supostos pode ser usado o sistema? Quen ten acceso a eses datos? Que garantías haberá para o uso proporcionado da ferramenta?

Así que estiver pronta a base de datos, composta por rexistros achegados polos diferentes corpos policiais (como Garda Civil e Mossos), serán instaladas estacións de traballo nos servizos centrais da policía científica para que comproben o seu uso con casos reais. Interior non concreta cando estará operativo, mais segundo fontes coñecedoras do proceso, a súa posta en andamento podería demorar aínda meses.

 

Varios agentes protegen en Londres un furgón dotado de cámaras de reconocimiento facial y altavoces durante una protesta contra los confinamientos de la pandemia en 2020.Varios axentes protexen en Londres un furgón dotado de cámaras de recoñecemento facial e altofalantes durante un protesto contra os confinamentos da pandemia en 2020.getty

 

A aplicación de sistemas automáticos de recoñecemento facial en labores policiais está abrindo camiño en Europa, onde varios países, como Francia, Holanda ou Alemaña realizaron testes-piloto ou xa contan con ferramentas en uso. Esta tecnoloxía comezará a ser empregada no inicio do próximo ano nas fronteiras da UE para rexistrar só os cidadáns non comunitarios que entren en territorio comunitario. No Reino Unido van máis lonxe e a policía xa colocou nas bocas de metro londinienses furgóns con cámaras dotadas destes sistemas.

Nos EUA, un dos países onde esta tecnoloxía ten maior implantación, varias cidades decidiron aplicar moratorias ao seu uso por causa dos protestos do movemento Black Lives Matters, que identifica o recoñecemento facial como un elemento de segregación policial. Outros países, como Rusia ou China, aproveitan o potencial de vixilancia desta tecnoloxía. As grandes cidades do xigante asiático están alagadas de cámaras que contan con sistemas de recoñecemento facial en vivo capaces de encontrar calquera cidadán en cuestión de horas.

Unha ferramenta revolucionaria

O inspector Sergio Castro, da Sección de Antropoloxía Forense da Comisaría Xeral de Policía Científica de Madrid, dirixe a equipa de sete persoas en que nun primeiro momento recaerá o labor de manexar a ferramenta ABIS. “É probábel que se o sistema ten éxito refórcennos con máis efectivos ou se produza unha descentralización”, apunta. Unha vez estiver en andamento, tamén se decidirá sobre os criterios de funcionamento e usuarios do sistema (é dicir, se os diferentes corpos disporán ou non de equipamentos propios para utilizar ABIS).

Castro non contén o entusiasmo cando fala da nova ferramenta que puxeron nas súas mans. O seu departamento conta con dúas vías principais para identificar sospeitosos: análise de impresións dixitais e análise de ADN. O recoñecemento facial abrirá un terceiro camiño, que  non é invasivo: con diferenza aos outros dous, non require ter mostras físicas do suxeito.

Até agora, cando se carecía de candidato ou sospeitoso, as imaxes da cámara dun banco en que se produciu un atraco servían de pouco. Era inviábel porse a buscar quen aparece na metraxe sen ter algunha pista que acoutase a procura. Aí é onde entran as ferramentas automáticas de recoñecemento facial. “Cando lle presentas unha imaxe dunha persoa, o sistema ordena as fotografías de recensión policial [uns cinco millóns, segundo Interior] desde a que máis se parece á que menos. Entón o operador percorre as primeiras posicións en busca dunha coincidencia”, indica Castro.

O labor do axente é chave: dependendo do nítida que sexa a imaxe e do grao de ocultación do rostro (lentes, barba, diferenzas de pose, etcétera), a correcta pode ser a trixésima. É sempre unha persoa, e non o computador, quen determina se hai ou non parecido. “Se achamos unha coincidencia, entón falamos dun candidato potencial. Podería ser iniciada unha investigación en busca de probas”, remarca o inspector. Ese proceso pode acabar ou non en detención, dependendo das evidencias achadas.

 

El inspector Sergio Castro lidera el equipo de siete agentes que operarán los sistemas automáticos de reconocimiento facial.                     O inspector Sergio Castro lidera o equipo de sete axentes que operarán os sistemas automáticos de recoñecemento facial.Jaime Villanueva

 

Nun segundo paso, se se quere validar o candidato para a investigación ou a súa detención, procédese a facer un estudo forense, igual que acontecía até agora coas impresións dixitais ou o ADN. “A miña equipa faría un estudo uno a un do suxeito ofrecido pola ferramenta automática. Búscase unha fiabilidade moi alta, porque a nosa pericial pode condicionar unha sentenza, e para iso fai falta moita calidade de imaxe”, subliña. Nun 90% dos casos, as identificacións que teñen que facer son peticións xudiciais; o resto son solicitudes de oficio doutros departamentos da policía, que dispoñen das imaxes do autor dun feito delituoso e necesitan confirmar fidedignamente se se trata da persoa que investigan ou non para pór o caso posteriormente en coñecemento dos xulgados.

A base de datos que conterá as recensións fotográficas faciais de todos os sospeitosos é a mesma en que xa se almacenan as impresións dixitais e as mostras de ADN. Estes dous últimos tipos de datos persoais son compartillados cos socios europeos en virtude do Schengen Information System (SIS). Bruxelas pretende incluír nun futuro nese mesmo paquete os datos faciais. “O sistema ABIS de España pode conectarse con bases de datos europeas, como Eurodac, EU-Lisa ou VIS, xa que están deseñadas as ligazóns correspondentes. Non é un sistema isolado, senón que está interconectado cos países da Unión Europea”, explican fontes de Thales.

Os riscos das tecnoloxías biométricas

Entre os principais riscos do uso destas tecnoloxías, está que os algoritmos fallan. E non é o mesmo que se enganen ao recomendar un filme que erren identificando un sospeitoso. O do estadunidense Robert Williams é o primeiro caso documentado de detención irregular por culpa dun sistema de recoñecemento facial: a ferramenta confundiuno con outro e os axentes, lonxe de comprobaren se se parecía ao sospeitoso, levárono ao calabouzo. Estes sistemas son treinados con datos de persoas brancas, polo que fallan moito máis con negros e asiáticos. Hai estudos do Goberno dos Estados Unidos que proban que esta tecnoloxía é 100 veces máis proclive a confundir individuos negros que brancos.

O rascuño de regulamento da Intelixencia artificial que está sendo negociado en Bruxelas adopta unha perspectiva baseada nos riscos potenciais que poida entrañar a aplicación destas tecnoloxías. O recoñecemento facial entra na categoría de “risco alto”, aínda que se abre a porta ao seu uso sempre que sexa con “fins de prevención, detención ou investigación de crimes graves ou terrorismo”. Fican expresamente prohibidas as ferramentas de “vixilancia indiscriminada”, e, portanto, en principio non estes sistemas non poden ser instalados nas rúas para identificar a xente. Ese non é en ningún caso o propósito de Interior, segundo fontes do Ministerio.

A aplicación de algoritmos a asuntos públicos debe estar auditada e monitorizada. Segundo Interior, o sistema, desenvolvido por Thales, foi validado pola Garda Civil e o Corpo Nacional de Policía. “Nos traballos de validación participaron os especialistas de científica e criminalística das forzas e corpos de seguranza do Estado”, apuntan esas fontes. O algoritmo Cogent, o corazón do sistema ABIS, superou tamén probas do test de vendedores de NIST, unha organización estadunidense independente. “É o garante de que o algoritmo avaliado cumpre cos estándares e requisitos que se demandan para os diferentes casos de uso”, sinala Interior. “NIST non di que os algoritmos sexan bos ou malos. E, por outra parte, a organización propón varias avaliacións con diferentes obxectivos, e non sabemos a cales se refiren”, opina a respecto diso Carmela Troncoso, profesora da Escola Politécnica Federal de Lausana (Suíza) e autora do protocolo de rastrexo seguro usado nas aplicacións de rastrexo da covid.

Gemma Galdon, directora de Eticas Consulting, unha consultora especializada en auditorías algorítmicas, tampouco cre que iso sexa suficiente. “De acordo con a normativa europea, hai que xustificar a proporcionalidade das tecnoloxías de alto risco e establecer o que se espera conseguir con elas. Tamén é necesario saber que precaucións foron tomadas para evitar os rumos algorítmicos: está demostrado que estes sistemas identifican mellor persoas brancas que o resto, polo que hai que probar que non cometa erros con persoas negras”, explica.

El País