Ús de la intel·ligència artificial a les administracions públiques

Una de les accions que les administracions públiques de tot el món estan duent a terme pel que fa a la IA és treballar per la seva implementació en la millora de l’eficàcia en els seus propis processos. Tanmateix, atès el fet que una de les tasques principals de les administracions és la protecció social, l’aplicació de la IA en aquest àmbit demana d’una prudència especial, perquè l’impacte en la ciutadania és molt gran.

Actualment, la tecnologia que més fan servir les administracions públiques és la decisió automatitzada (ADMS). Es tracta d’uns sistemes que utilitzen els algoritmes i grans quantitats de dades per a automatitzar certs processos i que, en alguns casos, ho fan mitjançant la IA.

Amb l’objectiu de millorar l’eficàcia dels diferents àmbits de treball del sector públic, diversos estats ja implementen l’ús de la IA en molts dels seus sectors d’actuació. L’informe esmenta els següents: ocupació, prevenció de delictes, transport, serveis socials, cossos policials, salut, educació, disseny de polítiques públiques, presons, ajuts socials, detecció del frau i administració de la justícia.

A l’estat espanyol específicament, les gestions que ja funcionen amb un programari impulsat per IA són l’automatització del sistema d’ajuts públics (amb BOSCO), el suport als cossos policials (mitjançant programaris com VioGén i VeriPol) i la prevenció de delictes (a través de RisCanvi).

Pel que fa al tipus d’IA, les eines més freqüentment utilitzades en aquests diferents àmbits del sector públic són el ‘Machine Learning’ (aprenentatge de màquina), el processament de llenguatge natural i els algoritmes.

Els algoritmes venen a ser seqüències d’instruccions o passos per a aconseguir uns resultats específics, i tenen el seu màxim exponent a les xarxes socials, on s’utilitzen per a recomanar contingut a les persones usuàries. Són eines que poden tendir fàcilment a contribuir als biaixos socials, i és per això que cal conèixer-ne l’aplicació.

Segons l’informe, a nivell europeu, la gran majoria dels algoritmes s’introdueixen en l’àmbit nacional (un 54,1%), mentre que una part més petita es dedica a l’àmbit local (un 26,7%) i un percentatge més ínfim al nivell regional (10,1%) i transnacional (9,2%).

A Espanya, concretament, s’utilitzen i estan en desenvolupament o en prova pilot en les administracions públiques un total de 34 algoritmes, situant-se el país en el sisè lloc de països de la Unió Europea que implementen algoritmes en el sector públic, per sota de França (37), Alemanya (39), Estònia (50), Portugal (60), Itàlia (63) i els Països baixos (116).

L’informe de la Taula identifica alguns beneficis de l’aplicació ja implementada de la IA a l’administració pública. El primer és una millora comprovable del disseny i la provisió de serveis públics, en tant que és una eina que permet identificar les percepcions, problemes d’accés a serveis i comportaments de la ciutadania per a incloure-les a l’agenda de l’administració. A més, la IA permet gestionar quantitats de dades sense precedents, especialment mitjançant les xarxes socials i els dispositius mòbils, dades que es poden utilitzar per a oferir a la ciutadania una atenció més personalitzada, eficaç i sostenible econòmicament i en el temps.

Alhora, l’ús de la IA a les administracions està comportant una millora de la gestió interna de les institucions, especialment en l’àmbit estatal. En aquest sentit, un dels usos òptims d’aquesta tecnologia és l’automatització de tasques repetitives, que permet dedicar els esforços humans a una atenció més eficient i, alhora, personal.

El primer risc que l’informe identifica és la manca de rendició de comptes, transparència i explicabilitat dels algoritmes que impulsen la IA a l’administració pública. Això fa referència a les dificultats amb les quals es topa la ciutadania per a entendre el funcionament del mecanisme. Aquesta és una de les qüestions que es discuteixen per a l’elaboració de legislació sobre la IA, i una de les principals fonts de preocupació i lluita de les entitats tecnològiques. El clam és, en aquest cas, que les persones que utilitzen els serveis públics han d’entendre com s’ha arribat al resultat. Aquesta és l’única manera de garantir els drets socials de la ciutadania, tot posant la IA al servei del bé comú.  

Un altre risc comprovat de l’aplicació de la IA a l’administració pública és la reproducció i amplificació de biaixos i discriminacions. Aquesta problemàtica sorgeix a la fase de creació del programari, quan les dades introduïdes són falses o insuficients.

Un últim risc important que assenyala l’informe és la manca de seguretat i privacitat de la informació utilitzada, quelcom altament preocupant si es té en compte que la informació que fan anar les administracions sol ser molt sensible.

El resultat de la consecució d’aquests riscos és l’afectació directa en l’aplicació de les polítiques públiques, en tant que perpetuen les desigualtats i disminueixen molt l’eficàcia de les iniciatives i el mateix funcionament de les administracions i, amb ella, la confiança de la població.

• Recurs de Xarxanet ‘Com i per a què funciona el Registre OASI’
• Informe ‘Intel·ligència Artificial: Decisions Automatitzades a Catalunya de l’Autoritat Catalana de Protecció de Dades’
• Recurs de Xarxanet ‘7 eines per reflexionar sobre l'ús de la intel·ligència artificial’
• Article ‘La regulació de la intel·ligència artificial a la Unió Europea’, de Dolors Priego
• Document 'Recomanació CM/Rec (2021)8 del Comitè de Ministres als Estats membres de la UE en matèria de protecció de les persones pel que fa al tractament automatitzat de dades de caràcter personal en el context de l’elaboració de perfils'