La IA ètica i al servei dels drets socials s’escola al MWC24 en una nova jornada de l’m4Social

En el marc de l’edició 2024 del Mobile World Congress (MWC) va tenir lloc, el dijous 29 de febrer, la jornada ‘Intel·ligència artificial i drets socials: riscos i oportunitats’, una sessió organitzada per la Taula d'entitats del Tercer Sector Social de Catalunya, mitjançant el seu projecte m4Social, i en col·laboració amb la European Social Network (ESN) i la Fundació Mobile World Capital. És ja el vuitè any que aquesta col·laboració resulta en una jornada al congrés internacional.  

La jornada va consistir en dues taules rodones on persones representants del sector social i de l’administració reflexionaven sobre la interrelació entre la tecnologia, i, específicament la intel·ligència artificial, i l’acció i els serveis socials, en un enfocament que encarava les oportunitats i els riscos d’aquesta innovació. Les aportacions es van complementar amb la presentació de dos informes: el ‘Radar d’algoritmes i processos de decisió automatitzada per a l’accés als drets socials de la ciutadania’ i ‘Herramientas y metodologías para la auditoría y la evaluación de algoritmos’, elaborats per Ksnet i Digital Future Society respectivament.

En conjunt, es va tractar d’una sessió d’intercanvi sobre els efectes positius o negatius comprovats que té l’ús de la intel·ligència artificial en l’àmbit dels drets socials, i els mètodes que es poden utilitzar per a mitigar els riscos o millorar els beneficis d’aquesta interrelació, amb l’objectiu de reunir forces per a implementar l’ús de l’algoritme a l’acció social des d’un acostament ètic i transparent.

Benvinguda d’entitats i administració

L’acte va començar amb la intervenció de Francina Alsina, presidenta de la Taula d’entitats del Tercer Sector Social, que va destacar la importància de posar un debat com el present en un congrés internacional com el Mobile Social Congress, el que resulta una “oportunitat per a posar la tecnologia al servei de la ciutadania i reivindicar que cal que les administracions i les entitats s’hi ha d’adaptar per a garantir i millorar l’atenció social”.

Alfonso Lara, director de l’ESN, va fer un acostament similar a la temàtica de la jornada, i va reiterar la necessitat de “posar la innovació al servei de l’acció social amb la finalitat de contribuir a abordar els problemes, un objectiu en el qual la IA pot permetre millorar l’eficiència i la personalització dels serveis, però on alhora cal obrir el debat ètic”. També Francesc Faula, director general del Mobile World Capital Barcelona, fundació que té com a eix el debat al voltant de l’ús ètic de les tecnologies, que és imperatiu en un context en què “ja no hi ha un sector digital, sinó que tot és digital”.

Va tancar la presentació el conseller de Drets Socials, Carles Campuzano, que va assenyalar com “el departament de drets socials s’estava quedant endarrerit en l’ús de la tecnologia, i estem comprovant que aquesta pot ajudar a millorar la nostra eficàcia”.

Dos informes sobre la interrelació entre acció social, administració i intel·ligència artificial

La jornada va començar amb la presentació de dos informes realitzats amb l’objectiu de posar sobre la taula l’ús de la intel·ligència artificial i els algoritmes en el treball social, així com per a assenyalar la necessitat i les diferents fórmules per a avaluar aquests mateixos sistemes per a garantir que no vulneren els drets humans.

El primer informe ‘Radar d’algoritmes i processos de decisió automatitzada per a l’accés als drets socials de la ciutadania’ elaborat per Ksnet, el va presentar Romén Adan, politòleg i coautor de l’estudi, amb un to positivista que assenyalava que “ens trobem al començament d’aquesta tecnologia, i cal no perdre la perspectiva si hi ha errors”. També va assenyalar que, si bé la IA és, efectivament, un sistema molt nou, ja hi ha administracions que la fan servir per a millorar l’eficàcia dels seus serveis.

Adan va concloure que informes com aquest, igual que respostes, genera més preguntes: “Quin rol han de prendre l’administració i el tercer sector davant la IA? Quins problemes ètics es presenten? Si un sistema no ofereix una explicació del perquè del resultat, quin grau de fiabilitat té respecte al problema que vol resoldre? En definitiva, com podem assegurar que els ciutadans poden confiar en aquests sistemes?”.

Juan Ignacio Criado, professor titular de la Universitat Autònoma de Madrid i Director del Lab ITGesPub Innovación, Tecnología y Gestión Pública va presentar el segon informe de la jornada, ‘Herramientas y metodologías para la auditoría y la evaluación de algoritmos’, que té com a objectiu conèixer l’estat de l’avaluació d’algoritmes i aportar idees per a millorar aquests processos en el futur.

El document defineix conceptes i presenta metodologies d’auditoria d’algoritmes, i Criado en resumia els continguts en cinc claus: l’avaluació dels algoritmes és necessària, s’han d’entendre les diferents dimensions d’aquesta avaluació i destacar-ne la social, l’avaluació no es desenvolupa en espais aïllats, les persones han d’estar al centre d’aquests processos i és imperatiu desenvolupar organismes supervisors i establir estàndards a dins i des del sector públic. Es pot trobar un resum del document al recurs ‘Per què i com s’avaluen els algoritmes?’ de Xarxanet.

Intel·ligència artificial i administració pública: reptes i oportunitats

La primera taula rodona, moderada per Alfonso Lara, va comptar amb les intervencions de Rosa Maria Fumàs, responsable del Pla de Transformació Digital dels Serveis Socials Bàsics de la Generalitat de Catalunya; Sònia Fuertes, comissionada d’Acció Social de l’Ajuntament de Barcelona; José Luis Prieto, director gerent de l’Agència de Serveis Socials i Dependència de la Junta d’Andalusia; i Juan Ignacio Criado. Les ponències van girar al voltant de les diferents maneres amb què l’administració pública de diversos nivells arreu d’Espanya ha experimentat amb la intel·ligència artificial.

Va començar Criado reflexionant al voltant de la temàtica general de la taula, i assenyalant que “en el sector públic hi ha una adopció d’aquestes tecnologies una mica crítica, en tant que hi ha projectes on no es fa una reflexió a l’inici de la implementació sobre les implicacions ètiques i els potencials impactes del seu ús”. Entre d’altres, deia, això es deu al fet que existeix poca regulació sobre aquestes qüestions, tot i que ja s’ha demostrat la grandíssima utilitat de la IA al sector dels drets socials, però cal tenir en compte que “una part important de l’àmbit social és el contacte humà, així que caldrà veure on serà útil implementar aquestes eines”.

Sònia Fuertes va intervenir seguidament per a esmentar un espai on la IA ja s’implementa de manera adequada als serveis socials i se n’ha comprovat l’efectivitat. “L’ús dels robots de companyia per a persones grans”, assenyalava Fuertes, “ja s’està implementant amb èxit. Casos com els sistemes de recordatori de medicació, d’avís en cas d’accident... Són funcions que no requereixen acompanyament humà, però cal tenir en compte que el robot en cap cas suplirà el vincle humà”.

Un cas similar al dels robots és el de la teleassistència, ja implementat a Andalusia, que va presentar José Luis Prieto: “Ja hi ha 288.000 persones ateses per aquest sistema, que ve a ser un distribuïdor de serveis a domicili. Tanmateix, penso que cal anar més enllà i utilitzar programes de captació de patrons per a poder personalitzar aquest servei”. Alhora, Prieto va insistir en el fet que cal capgirar la dinàmica precedent en què la teleassistència ha estat al servei d’allò que les tecnològiques deien que havien de fer els serveis socials”.  

Rosa Maria Fumàs va tancar aquesta primera ronda d’intervencions lloant, primer, el sistema de dades compartides i creuades que ja està en funcionament al llarg de tots els serveis socials, i, després, esmentant la iniciativa d’estandarditzar els conceptes del sistema informàtic fins al punt que el sistema permeti a les persones professionals personalitzar el seu servei a l’usuari o usuària, “augmentant l’empatia, acostant-se més a la persona, de manera que el sistema acompanyi a les persones professionals en la seva tasca”.

Juan Ignacio Criado desprenia d’aquestes intervencions quatre eixos que cal que agafi l’avenç de la intel·ligència artificial en el sector públic: primer, s’hauran de treballar les dades de què es disposa abans d’aplicar les eines; segon, és important avaluar tots els processos; tercer, l’element cognitiu o anticipatori basat en patrons és el següent pas; tercer, tot allò que es faci des del sector públic, també l’aplicació de tecnologies, ha de ser pensat per a disminuir les desigualtats; i quart, és primordial que el sector públic no vagi a darrere de les empreses privades, però per a això cal augmentar l’expertesa de les professionals públiques.

En aquesta línia, els i les ponents de la primera taula van fer una segona ronda d’intervencions sobre les perspectives de futur del sector públic pel que fa a la intel·ligència artificial observant l’aspecte de l’equitat assenyalat per Criado. Per començar, José Luis Priero va insistir en el fet que és imperatiu posar la persona al centre de tots els processos: “la planificació assistida permetrà a les persones professionals tenir espai per a la reflexió per a millorar les seves accions”. Alhora, també va llençar una crítica a l’aire: “No pot ser que estiguem desenvolupant tecnologies per a l’assistència social, però que no tinguem diners per a atendre els ciutadans”.

Per la seva banda, Sònia Fuertes va continuar en la línia de la centralització de la persona: “L’administració té potència per a transformar, però ho ha de fer en conjunció amb les entitats socials i incorporant la veu de la ciutadania”. Finalment, va tancar la taula Rosa Maria Fumàs, amb un acostament similar que reiterava que la tecnologia ha d’estar al servei de les persones i cal que el o la professional tingui sempre l’última paraula quan s’utilitza un sistema d’intel·ligència artificial.

Intel·ligència artificial al servei de l’acció social

A la segona taula de la jornada, persones representants d’entitats socials que ja apliquen la intel·ligència artificial per a desenvolupar la seva tasca van compartir les seves perspectives i experiències. La moderava Gerard Sentís, responsable del projecte m4social, i hi van participar Pilar Rodríguez, adjunta a gerència i directora de la Unitat Operativa Sociosanitària de l’Associació Benestar i Desenvolupament (ABD); Jesús Hernández, director d'Accessibilitat i Innovació de la Fundació ONCE; Dúnia Roselló, directora de Comunicació i Màrqueting de Suara Cooperativa; José Antonio Ondiviela, director de l’àrea ‘Industry Government – Cities – Western Europe a Microsoft, i director de talent del Worldwide Observatory for Attractive Cities; i César Buenadicha, cap de la Unitat de Discovery de BID Lab.

A la primera ronda les persones participants van presentar els seus respectius projectes. Pilar Rodríguez va exposar el servei ‘Atenea’, una aplicació per a dispositius mòbils, tauletes o rellotges, específicament dissenyat per a respondre a demandes per veu de les persones usuàries, pensat per a ajudar a persones grans, amb mobilitat reduïda o similar en la gestió de qüestions quotidianes com demanar una cita al CAP o contactar amb algú. Rodríguez valorava el dispositiu, del qual va fer una demostració més tard, “no com una finalitat, sinó com un instrument, perquè mai substituirà la persona”.

Seguidament, Jesús Hernández va destacar els projectes de desplaçament autònom amb robòtica assistencial i els serveis de reconeixement facial per a persones sordes que utilitzen a la Fundació ONCE.

Per la seva banda, Dúnia Rosselló, va presentar dues iniciatives d’intel·ligència artificial que Suara fa servir per a “millorar la realitat de les persones des de projectes arrelats al territori”: el programa ‘Llars connectades’, per a contribuir al fet que les persones grans passin el temps més llarg possible a les seves llars; i el ‘Termòmetre del benestar’, una eina capaç de mesurar mitjançant algoritmes el benestar de persones que l’hi parlen, analitzant el to de veu. Aquest últim projecte s’ha testat, de moment, amb les persones treballadores de la cooperativa, i s’ha demostrat eficaç amb un 90% d’encerts.

José Antonio Ondiviela, per altra part, va esmentar el servei de teleassistència de Microsoft, que permet “interpretar les paraules de les persones que hi contacten, mantenir una conversa, i oferir-li el servei que necessita”; i el projecte ‘Be My Eyes’, en què, des d’una aplicació, les càmeres dels mòbils poden llegir el que capten a persones cegues, “desbloquejant-los la ciutat”.  

César Buenadicha va tancar la segona taula amb l’exposició de les iniciatives de la seva entitat, que vol utilitzar la tecnologia per a enfrontar-se a solucionar problemes socials a Amèrica Llatina sense generar-ne de nous. Alguns exemples que va posar van ser algoritmes per assignar subsidis sense discriminació, garantir que les entrevistes de feina no compten amb biaix de gènere, o que el mapejat de l’Amazones no afecta les comunitats. Es tracta d’iniciatives que “aporten la visió des de països de renda mitjana, on la relació amb la tecnologia és molt diferent”.

Una jornada de reflexió crítica i optimisme

En resum, i com ha fet cadascuna de les edicions anteriors des de l’inici d’aquesta col·laboració, la jornada va ocupar un espai que, d’altra manera, hagués quedat pràcticament buit al Mobile World Congress. Sense abandonar el ‘tecno-positivisme’ que abandera el congrés, la sessió no va deixar de defensar un acostament crític a la intel·ligència artificial i a tota tecnologia que pugui afectar mínimament la vida de les persones, i a utilitzar-la, sobretot, posant la persona al centre i avançant amb cura i garantint la participació, abaixant l’administració pública i les entitats del remolc de les empreses tecnològiques privades.

Com va concloure Maria Eugènia Gay, segona tinenta d’alcaldia i àrea de Drets Socials, Cultura, Educació i Cicles de Vida de l’Ajuntament de Barcelona: “les dades són poder, i aquest poder cal gestionar-lo amb ètica”.