60 entitats reclamen més protecció de drets fonamentals en la regulació de la intel·ligència artificial

Tot i la canviant situació política a Espanya, el govern de Pedro Sánchez haurà d'assumir, a partir del mes de juliol i fins a finals d'any, la presidència rotativa del Consell de la Unió Europea.

Durant aquesta segona meitat del 2023, a Brussel·les es debatrà el Reglament d'Intel·ligència Artificial de la Unió Europea, una regulació que, segons diverses entitats socials d'arreu del continent, presenta "deficiències preocupants" especialment en aquells sistemes d'intel·ligència artificial que "fomenten la vigilància massiva i amplifiquen les desigualtats socials, representant així una amenaça greu per als drets fonamentals i els processos democràtics".

Davant aquesta situació, seixanta entitats de tota Europa han signat una carta oberta instant a la Presidència espanyola a enfortir la protecció dels drets fonamentals al Reglament d'Intel·ligència Artificial de la Unió Europea. Entre les organitzacions impulsores de la missiva es troben Lafede.cat, l'Institut de Drets Humans de Catalunya, Algorace, la Fundació Eticas, CIVIO, Algorights, la Federació de Consumidores i Usuàries (CECU) i l'Observatori de Treball, Algoritme i Societat.

Altres entitats que s'han adherit a la petició són Acces Info Europe, Amnistia Internacional, DigitalFems, European Digital Rights, Irish Council for Civil Liberties, Oxfam Intermon, Political Watch o Xnet, entre d'altres.

Regulació internacional amb impacte en el nostre dia a dia

Segons Judith Membrives, tècnica de digitalització de Lafede.cat, una de les organitzacions promotores de l'escrit, "la regulació sobre intel·ligència artificial tindrà un impacte força gros en el nostre futur, ja que, un cop s'aprovi el reglament europeu, aquesta legislació s'haurà de traslladar a l'ordenament jurídic de cada país membre sense poder fer-ne cap modificació". En aquest sentit, Membrives també comenta que, per exemple, "si aconseguim que es prohibeixi el reconeixement facial al reglament europeu, tindrem unes ciutats lliures d'aquesta tecnologia tan invasiva".

Un altre dels punts de la llei on es vol incidir és en l'obligació de rendició de comptes i transparència pública per als usos públics de sistemes d'intel·ligència artificial d'alt risc, fet que, des de Lafede.cat consideren clau per a garantir els drets fonamentals.

"Volem que quedi clara una cosa", continua Membrives, "que es desenvolupi la intel·ligència artificial no implica, 'per se', que hi hagi pèrdua de drets fonamentals. El problema amb relació a la intel·ligència artificial és com s'implementa, per prendre quin tipus de decisions i, sobretot, quins mecanismes de transparència, rendició de comptes i  justícia restaurativa es plantegen en els processos d'implementació d'aquesta tecnologia". Les tecnologies en les quals les entitats més posen el focus en la seva carta oberta són el reconeixement facial, el reconeixement d'emocions i la predicció delictiva, totes tres ja prohibides pel Parlament Europeu.

Implicar a la ciutadania en la regulació per garantir els drets fonamentals

La carta oberta a la Presidència espanyola del Consell de la Unió Europea demana, a més, la promoció d'una participació activa de la societat civil en el desenvolupament i la regulació de la intel·ligència artificial. Respecte d'aquesta qüestió, Judith Membrives afegeix que "tota la ciutadania hauríem de formar part de la governança de la intel·ligència artificial i poder decidir quines automatitzacions de processos ens compensen tenint en compte una anàlisi de riscos en matèria de drets fonamentals".

Per fomentar aquesta participació, des de Lafede.cat, proposen "una sèrie de processos participatius, assemblees ciutadanes i experiments de disseny i cocreació de polítiques perquè la ciutadania entengui quines són les afectacions que tindria l'aplicació de la intel·ligència artificial en cada procés i si val la pena automatitzar aquell procés o no".

A més, Membrives insisteix en la necessitat de "deixar molt clar quines són les vies de reclamació i reparació que poden tenir les persones que es veuen sotmeses a una decisió automatitzada" i en l'obligació de sotmetre els sistemes d'intel·ligència artificial a un control continuat que també contempli les possibles millores o actualitzacions que es duguin a terme.

Per traslladar el detall d'aquestes demandes, les organitzacions sol·liciten al Govern reunions a alt nivell amb representants de ministeris i carteres diferents abans de l'inici de la Presidència espanyola. En aquestes reunions se sol·licitaran garanties perquè es reforcin i es protegeixin adequadament els drets fonamentals al text final del Reglament d'IA, així com la participació de la societat civil organitzada en la definició d'estàndards.