Organitzacions reclamen que la llei europea d'intel·ligència artificial protegeixi les persones en moviment

Més d'un centenar d'entitats, entre les quals AlgoRace, AlgoRights i Amnistia Internacional, i una vintena de persones individuals, reclamen que la llei sobre intel·ligència artificial de la Unió Europea (UE) protegeixi les persones en moviment.

Consideren que la proposta "no aborda ni preveu" els danys derivats del seu ús en contextos migratoris com controls fronterers en els quals aquestes tecnologies s'implementen en sistemes de sobrevigilància, criminalització, discriminació estructural i violència. Per això, fan una sèrie de propostes d'esmena.

La primera és afegir com a pràctica prohibida els sistemes predictius que s'utilitzen per interceptar, restringir i impedir fluxos migratoris; els sistemes automatitzats d'avaluació de riscos i elaboració de perfils; els sistemes de categorització d'emocions i categorització biomètrica; i la identificació biomètrica remota a les fronteres i en centres de detenció i els seus voltants.

En segon lloc, reclamen incloure com a sistemes d'intel·ligència artificial d'alt risc els d'identificació biomètrica, els que s'utilitzen per al control i la vigilància a les fronteres, i els sistemes analítics predictius utilitzats en migració, asil i control de fronteres.

En tercer lloc, demanen que es retiri una excepció que preveu la llei per als sistemes que en el moment que es publiqui la legislació ja s'estiguin fent servir a la UE en el context migratori com Eurodac, el Sistema d'Informació de Schengen i ETIAS. Les organitzacions volen que la llei s'apliqui a tots els sistemes d'IA sense dobles rasants.

En quart, que s'apliquin les mesures de supervisió i transparència per tal que les persones afectades s'empoderin i puguin entendre, qüestionar i buscar solucions quan aquestes tecnologies violen els seus drets. Aquesta desigualtat és especialment greu entre qui hi ha darrere de la intel·ligència artificial i les persones en contextos migratoris.

Concretament, volen que s'inclogui l'obligació de les persones usuàries de publicar una avaluació de l'impacte en els drets fonamentals; assegurar requisits perquè les autoritats registrin l'ús de la IA dins de les migracions, l'asil i la gestió de fronteres; i que s'incloguin mecanismes i drets de reparació.

Aquesta llei sense precedents pretén regular finalment la IA perquè no contribueixi a la discriminació i la violència. Caldrà veure si posa prou límits i inclou totes les realitats.