Les entitats del tercer sector reclamen una intel·ligència artificial amb més perspectiva humana
Comparteix
Més de 100 representants d’entitats han participat en una jornada de Fundesplai sobre els reptes normatius, ètics i socials que planteja la incorporació de la intel·ligència artificial.
La incorporació de la intel·ligència artificial (IA) a les entitats pot facilitar processos i millorar-ne l’eficiència, però també comporta riscos relacionats amb la protecció de dades, la responsabilitat i l’aparició de noves desigualtats. Aquests reptes han centrat la jornada ‘Intel·ligència Artificial i compliment normatiu al Tercer Sector’, organitzada aquest 6 d’octubre per Suport Tercer Sector de Fundesplai.
La trobada ha reunit més de 100 representants d’entitats socials, educatives, ambientals i culturals, així com persones expertes en intel·ligència artificial, protecció de dades i dret de les tecnologies.
Un dels principals eixos de la jornada ha estat la necessitat que el desenvolupament i l’ús de la IA incorporin una perspectiva humana. La catedràtica d’Intel·ligència Artificial i Ciència de Dades de la Universitat Politècnica de Catalunya (UPC) Karina Gibert ha alertat dels efectes que pot tenir una tecnologia mal dissenyada.
“Tot allò que embolcalla la intel·ligència artificial pot ser causa de desigualtat social si no es dissenya bé”.
Més deontologia davant el canvi tecnològic
Gibert ha situat la irrupció de la intel·ligència artificial com un canvi d’era que permet abordar processos d’una gran complexitat. Alhora, ha defensat que aquesta evolució ha d’anar acompanyada d’un marc regulador i d’uns criteris ètics.
Durant la intervenció, ha afirmat que “estem en un moment respecte a la IA on cal més deontologia que tecnologia” i ha remarcat la importància que els sistemes es dissenyin posant les persones al centre.
La catedràtica també ha exposat alguns projectes en què la intel·ligència artificial s’ha utilitzat amb finalitats socials i ambientals, com Gavius, pensat per facilitar la tramitació d’ajuts socials mitjançant una aplicació, o iniciatives relacionades amb la regeneració d’aigües al Besòs.
El director de Compliment Normatiu i Tercer Sector de Fundesplai, Víctor Garcia, ha assenyalat que la digitalització representa un repte per a les entitats en aspectes com la regulació o la seguretat de les dades, però també una oportunitat per contribuir a transformar la societat de manera més eficient.
La protecció de dades, un repte especialment sensible
La gestió de dades personals i sensibles és una de les qüestions que més preocupació genera entre les entitats, especialment entre les organitzacions socials que treballen habitualment amb aquest tipus d’informació.
La delegada de Protecció de Dades i responsable de Projectes Estratègics de l’Autoritat Catalana de Protecció de Dades (APDCAT), Joana Marí Cardona, ha advertit dels riscos associats a l’ús d’aquestes eines: “Si hi ha dades de caràcter personal, la IA pot incorporar beneficis però també riscos molt importants. Per això les entitats cal que tinguin el principi de precaució quan la facin servir”.
Per la seva banda, Arantxa Casanovas, responsable de Coordinació de Protecció de Dades de la Direcció General d’Intel·ligència Artificial, Eficiència i Dades de la Generalitat de Catalunya, ha posat el focus en la finalitat de l’ús de la tecnologia i en la responsabilitat de qui la utilitza.
La responsable del Servei Jurídic de Fundesplai Suport Tercer Sector, Montse Agudo, també ha destacat els reptes que planteja la IA per a les entitats i la importància d’incorporar-la d’acord amb el marc normatiu.
Protocols interns per a un ús responsable
Un altre dels aspectes abordats durant la jornada ha estat la necessitat que les entitats disposin de criteris interns clars sobre com i quan utilitzar eines d’intel·ligència artificial.
La presidenta de la Secció de Dret de les Tecnologies de la Informació i la Comunicació de l’Il·lustre Col·legi de l’Advocacia de Barcelona (ICAB), Júlia Bacaria, ha advertit que l’ús d’aquestes eines sovint parteix de decisions individuals dins de les organitzacions.
“Sovint fer ús de la IA és una decisió individual, però cal saber quins són els riscos d’aquest ús. Cal tenir garanties i per això ens ajudarà un protocol organitzatiu”.
Disposar d’un marc intern pot permetre a les entitats establir criteris comuns i incorporar la tecnologia de manera coherent amb els seus valors i amb les obligacions normatives.
Sobirania tecnològica i pedagogia
Durant el debat, representants de les entitats també han expressat preocupació per la pèrdua de sobirania tecnològica d’Europa, especialment pel que fa als serveis al núvol i al control de les dades, sovint en mans de grans multinacionals.
També s’ha plantejat el risc que les persones facin servir eines d’intel·ligència artificial generativa de manera individual i hi introdueixin dades personals sense conèixer les conseqüències que això pot comportar.
Les persones expertes han coincidit en la necessitat de reforçar la sobirania tecnològica europea i de fer més pedagogia, tant dins de les organitzacions com entre la ciutadania, sobre un ús responsable d’aquestes eines.
La jornada ha posat de manifest que la incorporació de la intel·ligència artificial al tercer sector va més enllà de l’adopció d’una nova tecnologia. La protecció de dades, els criteris ètics, els protocols interns i la perspectiva humana apareixen com a elements centrals perquè les entitats en puguin aprofitar les oportunitats sense generar nous riscos.
Afegeix un nou comentari