Una vintena d'organitzacions liderades per AlgoRace han enviat una sèrie de propostes contra la discriminació en la intel·ligència artificial al ministeri d'Igualtat en el marc de la consulta pública per elaborar una Llei Orgànica contra el Racisme, la Discriminació Racial i formes connexes d'intolerància.

L'entitat considera "fonamental" abordar l'impacte que tenen els algoritmes en les persones en un moment de creixement de l'automatització en què s'està començant a definir la regulació tant a l'Estat com a la Unió Europea (UE).

Demanen, en un comunicat, que s'apliqui en casos en els quals no suposi una vulneració de drets sobre col·lectius oprimits i que no serveixi per reproduir violències estructurals.

Transparència

Les entitats proposen garantir per llei la transparència d'aquestes tecnologies perquè siguin "traçables, intel·ligibles i comprobables", de la mateixa manera que ho ha de ser l'Agència Estatal de Control d'Algoritmes, que està en procés de creació, i que haurà de comptar amb la participació de la societat civil, afirmen.

Prohibició a les fronteres i als cossos policials

D'altra banda, demanen la prohibició dels sistemes d'intel·ligència artificial en l'aplicació de la llei, especialment els predictius i d'elaboració de perfils que utilitza la policia i que reforcen "la discriminació estructural de grups marginalitzats". Això és "incompatible amb el dret fonamental de presumpció d'innocència", asseguren.

De la mateixa manera, exigeixen que no es recullin dades biomètriques a les fronteres perquè vulneren el dret a la lliure circulació, a no ser identificats, a la privacitat i a la intimitat i perquè incompleix el principi de proporcionalitat.

Per tal que això no passi, reclamen la derogació del reglament del Parlament Europeu que permet el reconeixement facial i la derogació d'un article de la proposta de la Comissió Europea, Artificial Intelligence Act (AIA), que eximeix les bases de dades europees d'aquesta regulació. També, un sistema de persones observadores de drets humans a la frontera, auditories independents i controls externs.

A més, declaren que consideren insuficient el consentiment informat de les persones afectades perquè es troben en una situació de màxima vulnerabilitat.