Riscos i beneficis de l'ús de la intel·ligència artificial en l'àmbit social

La presència de la intel·ligència artificial (IA) i l’ús d’algoritmes en tots els aspectes de la societat és cada vegada més evident. Un gran nombre d’empreses ja integren en els seus productes i processos l’ús de la IA cercant ser més eficients, efectius o beneficiosos, mentre que les administracions públiques ja estan experimentant amb aquesta tecnologia amb potencial per transformar-les.

A Catalunya, existeixen diversos casos en què s’han començat a introduir solucions relacionades amb la intel·ligència artificial, alguns d'ells en l'àmbit social. En aquests casos, a banda de facilitar el treball del personal de l’administració, la tecnologia millora l’accés de la ciutadania als serveis socials. Els beneficis són molts, però el cert desconeixement de la tecnologia que encara existeix fa que calgui tenir en compte els possibles riscos que se’n poden derivar del seu ús, especialment en l'àmbit social, on cal considerar l’impacte que pot tenir en l’accés i garantia dels drets socials.

En aquest context, m4social i KSNET han elaborat l’informe ‘Radar d’algoritmes i processos de decisió automatitzada per a l’accés als drets socials de la ciutadania de Catalunya’, en el qual analitzen els riscos i oportunitats de l’ús de la intel·ligència artificial en les administracions catalanes d’àmbit social.

L’informe consta de dues parts: la primera, té la finalitat de divulgar sobre els orígens, evolució, governança, beneficis, riscos i aplicació de la intel·ligència artificial per part de l'administració pública; la segona, identifica i analitza dotze algoritmes i processos de decisió automatitzada per l’accés als drets socials de la ciutadania de quatre administracions públiques catalanes diferents.

El document es va presentar en la jornada ‘Intel·ligència artificial i drets socials’, emmarcada en la celebració del Mobile World Congress, i organitzada per la Taula d’entitats del Tercer Sector Social de Catalunya, a través d’m4social, en col·laboració amb la European Social Network (ESN) i Mobile World Capital Barcelona.

Una oportunitat única pel Tercer Sector

La primera part de l’informe té la finalitat d’ajudar la societat en general, i les entitats del Tercer Sector en particular, a entendre el context actual relatiu a la intel·ligència artificial. D'aquesta manera, es motiva a què el tercer sector pugui fixar una posició compartida en aquesta qüestió de cara a la conformació del futur. “Si les entitats volen ser escoltades, és fonamental que comparteixin i transmetin una visió similar, tant en termes de diagnòstic com de propostes”, afirmen a l’informe.

Així, s'exposen els beneficis que aporta l’ús de la intel·ligència artificial en les administracions públiques. En Gerard Sentís, coordinador del projecte m4Social, en destaca alguns de concrets, com una millor eficiència i qualitat en l’atenció dels serveis públics, major rapidesa, més agilitat i proactivitat de l’administració per aconseguir una ajuda, l’oportunitat de dissenyar millors polítiques i la millora de la gestió interna de l’administració. "Tot això permet a la professional dedicar menys temps a la gestió i centrar-se en l’atenció directa a la usuària", afirma.

"Creiem que la intel·ligència artificial és una oportunitat per poder treballar, amb l'administració, per reduir l'excés de burocràcia que tenim, per eliminar els bloquejos que la ciutadania pateix i per garantir que l'atenció sigui més personalitzada i més centralitzada en la mateixa persona", exposa la presidenta de la Taula del Tercer Sector, Francina Alsina, qui expressa que les persones vulnerables se'n beneficiarien d'aquestes noves solucions. 

Així mateix, cal tenir en compte també els potencials riscos, com la manca de privacitat i seguretat, la falta de transparència o l’amplificació de biaixos i discriminacions. "És aquí on les entitats socials també hi serem per controlar allò que no funciona", afegeix Alsina.

La presència de la intel·ligència artificial a les administracions

L'estudi posa de manifest que encara estem en una fase molt recent de l’ús d’aquesta tecnologia en l’àmbit dels drets socials, sent molts d'ells, de moment, d'ús únic per al personal de l’administració. L'informe exposa els dotze casos, de quatre administracions diferents, que s'han identificat i analitzat. D'aquests dotze sistemes, set ja estan implementats i, la resta, en fase pilot. Sentís destaca que les eines identificades tenen sempre un control humà d'una persona professional.

D'entre els sistemes identificats, destaquen el recomanador de prestacions i la identificació de necessitats en la intervenció social, de la Generalitat de Catalunya; els sistemes conversacionals, infoCanal Alzheimer i Fons 0-16, de l'Ajuntament de Barcelona; la videoidentificació per a l’obtenció de l’idCat Mòbil i el servei d’automatització dels informes de pobresa energètica de l'Administració Oberta de Catalunya (AOC), o el sistema d’identificació de demandes, problemes i respostes (DPR), de l'Ajuntament de Barcelona i l'Institut Municipal de Serveis Socials.

Actualment, però, la necessitat de construir sistemes segurs i amb garanties en l’accés als serveis socials és una de les característiques que limita el ventall de solucions d'intel·ligència artificial que poden aplicar-se. I és que és necessari avançar amb prudència "perquè les persones a qui va dirigida aquesta protecció es troben en situació de vulnerabilitat o risc d’exclusió social", tal com explica el Xavier Trabado, referent de m4Social a la Junta Directiva de la Taula.

"Confiem que això no s’aturi aquí perquè el nombre de sistemes identificats és reduït, molt menor que en altres àmbits com el de la salut. Necessitem una aposta ferma i continuada perquè, si no és així, difícilment podrem avançar en la consolidació i millora de l’atenció a la ciutadania que tothom desitja", alerta Alsina