Reconeixement facial: una eina tecnològica que posa en perill els drets de la ciutadania

L’àmbit tecnològic i digital ha emprès un nou rumb amb la irrupció i el desenvolupament de la intel·ligència artificial (IA): un clar progrés en l’evolució i la creació de nous àmbits, mètodes i eines que transformen la societat i la manera de gestionar les diferents esferes de la vida quotidiana. Però tots els avenços arriben amb els seus inconvenients.

Les vulneracions de drets que ja existeixen a la vida quotidiana també traspassen les pantalles i es filtren a l’àmbit digital. La intel·ligència artificial, per exemple, ja s’utilitza en fronteres per detectar quines persones les poden traspassar o hi ha algoritmes opacs que administren i tenen accés a un gran nombre de dades, entre altres aspectes.

Des de Lafede.cat van engegar una línia de treball sobre digitalització i drets humans, justament perquè varen començar a localitzar comportaments intrusius i discriminatoris que calia combatre. En aquest sentit, es posa l’accent en la regulació de l’ús de la intel·ligència artificial a escala europea amb l’aprovació de la llei AI Act, la qual té com a objectiu regular els impactes de la intel·ligència artificial i defensar els drets fonamentals de la ciutadania, a través de prohibir la vigilància biomètrica, la vigilància predictiva i el reconeixement d’emocions per IA.

L’altra cara de la moneda de les noves tecnologies

És en aquest marc que, des de Lafede.cat, posen sobre la taula els límits de la tecnologia, i els riscos que pot implicar, i llencen la campanya ‘Sospitoses per la Cara’. “És un sistema d’intel·ligència que pot ser realment molt intrusiu i inclús generar discriminacions. Nosaltres el que diem és que el seu ús hauria d'estar prohibit en qualsevol cas dins de l'espai públic”, explica Víctor Yustres, un dels portaveus de la campanya per Lafede.cat.

Als Estats Units ja hi ha hagut casos de persones que han participat en manifestacions i han estat detingudes per motivacions racials a causa d’utilitzar aquestes tecnologies. Cal tenir en compte que aquestes no sempre funcionen correctament i cometen errors. Per tant, són eines que poden criminalitzar persones en funció del color de pell o del gènere. “Això és el que ens sembla preocupant i perillós. Motiu pel qual posem el focus en el fet que aquesta tecnologia ens fa sospitoses d’entrada”, declara Yustres.

En aquest sentit, i per potenciar la campanya, una de les accions que han dut a terme és la difusió d’un vídeo informatiu per sensibilitzar a la ciutadania d’aquest vessant més fosc de les noves tecnologies, tot fent un paral·lelisme de la situació actual amb els famosos cartells ‘Es busca’ de l’Oest.

L’aprovació d’una llei europea que reguli els usos de la IA

Actualment, està en joc una regulació al Parlament Europeu que pretén restringir i prohibir el reconeixement als espais públics, la qual es va presentar el mes de juny i ja va tenir la majoria de vots a favor per a la seva implementació. Encara ha de passar per diferents estadis i ens del procés legislatiu de la Unió Europea, ja que també ha de presentar la proposta el Consell Europeu i la Comissió Europea. “La idea és que, a partir de totes les proposicions, s’acaba dissenyant una proposta final”, diu Yustres.

A més, cal tenir en compte que en cap cas s’ha demostrat que la intel·ligència artificial i el reconeixement facial, per exemple, té grans impactes positius per a la seguretat mundial. “No se sap si ajudarà a prevenir atemptats terroristes i, com que no hi ha evidència científica, hi ha altres mètodes menys intrusius que es poden utilitzar per verificar-ho”, exemplifica Víctor Yustres.

Hi ha països que sí que tenen la projecció d’emprar aquestes tecnologies amb fins policials i en autoritzacions judicials per controlar la seguretat nacional. “És una porta que, si s’obre, pot ser perillosa. Volem fer incidència perquè aquestes legislacions tinguin en compte que és un sistema d’IA d’alt risc perquè viola drets fonamentals. No se sap ben bé on són els límits quan es parla de seguretat”, exposa el portaveu de la campanya.

De moment, des de Lafede.cat han publicat una carta, juntament amb seixanta entitats, adreçada a la representació espanyola que presideix el Consell de la Unió Europea durant els pròxims sis mesos. La campanya i les accions seguiran fixant el debat en la defensa dels drets fonamentals i en com aquests han de ser un pilar principal en la creació de noves tecnologies.