‘Descolonitzem la tecnologia’: com combatre el racisme en temps d’intel·ligència artificial
Comparteix
El col·lectiu AlgoRace alerta que la IA reprodueix desigualtats racials i que cal “combatre el racisme per transformar la tecnologia”.
La setmana passada es va celebrar a Barcelona, una nova edició del Mobile Social Congress, l’alternativa ètica al Mobile World Congress, impulsada per Setem. Com a part de la jornada de taules rodones, el col·lectiu AlgoRace va participar a la ponència ‘Com fem una IA antiracista, descolonial i feminista?’ celebrada al Canòdrom de Barcelona.
Youssef M. Ouled, periodista i coordinador d'AlgoRace, va començar la seva intervenció amb una advertència clara: “Els sistemes d’IA reprodueixen desigualtats racials”. Ouled porta més de cinc anys estudiant com la tecnologia, lluny de ser neutral, amplifica les lògiques colonials i discriminatòries que ja operen a les institucions. “Fem recerca de com els sistemes d’IA reprodueixen desigualtats racials”, explicava, “i intentem que els nostres treballs produeixin algun canvi a nivell polític, legislatiu i institucional”.
AlgoRace és un equip format per persones provinents del moviment antiracista, del feminisme i de l’acadèmia. La seva feina pivota sobre tres eixos — la investigació, la sensibilització i la incidència política — que els han fet arribar a una conclusió clara: el racisme tecnològic opera en dos nivells. “D’una banda, hi ha un pla més individual, on són persones les que dissenyen, pensen i implementen aquestes tecnologies, i això fa que es traslladin els biaixos de raça, gènere o classe”. Però, d'altra banda, hi ha una dimensió estructural molt més profunda, segons Ouled, que va afegir que "si tu implementes tecnologies frontereres que busquen limitar la mobilitat humana, aquí no hi ha un biaix: hi ha una decisió política, racista, colonial”.
Durant la ponència, el periodista i coordinador d'AlgoRace va repassar els àmbits on aquests sistemes ja estan operant: fronteres, policia, justícia i, fins i tot, la lluita contra la violència masclista. De fet, en el seu darrer informe sobre VioGén, el sistema integral de seguiment de casos de violència de gènere que s'aplica a Espanya des de l'any 2007, alerten que aquestes eines “es presenten com a solucions màgiques a problemes estructurals” però que, en realitat, “desprotegeixen les dones migrants i criminalitzen els homes racialitzats”. La manca de transparència és un altre dels grans obstacles, segons expliquen des d'AlgoRace. “Una dona que denuncia violència de gènere no sap que li estan aplicant una escala de riscos. No hi ha informació. I quan no tenim informació no podem fer valer els nostres drets”.
Per això, el col·lectiu insisteix que la lluita no és només tecnològica, sinó política. “Per molt que tu lluitis perquè una tecnologia sigui menys racista, si tens un sistema racista et continuarà produint tecnologia racista”. La resposta passa per organitzar-se, i aquí entra en joc el 'Grupo Semilla', un espai de col·lectius antiracistes que impulsa tallers, campanyes i accions conjuntes i, des d'on va comentar Ouled, "s'està intentant impulsar un canvi real".
La ponència d’AlgoRace va deixar un missatge final que ressona amb força: la tecnologia no es pot arreglar sense transformar la societat que la produeix. “No es tracta només de corregir algoritmes, sinó de qüestionar les estructures que els alimenten", va insistir Ouled.
En un moment en què la IA s’expandeix a tots els àmbits de la vida, el Mobile Social Congress recorda que la tecnologia no és inevitable ni neutral i que descolonitzar-la és un procés col·lectiu, lent i imprescindible.
Un congrés alternatiu per descolonitzar la tecnologia
La intervenció d’AlgoRace s’emmarcava en un Mobile Social Congress que, enguany, ha portat per lema 'Descolonitzem la tecnologia'. Tal com explica Clàudia Bosch, tècnica de Setem i part de l’organització, aquesta edició és “més rellevant que mai”, en un moment en què “les grans empreses tecnològiques semblen que no estan a favor de la protecció dels humans i les usuàries”.
El congrés vol analitzar “els impactes socials i ambientals” del model tecnològic actual i denunciar “com el colonialisme segueix imperant en les cadenes globals de la tecnologia”. Descolonitzar, diu Bosch, és un procés “correctiu, en present i continuat”, que implica revisar com es dissenya, es comercialitza i s’utilitza la tecnologia, i sobretot, “qui perd en aquest model”.
La programació d’aquest any ha comptat amb xerrades sobre l’impacte de la IA en la reproducció de biaixos socials, el paper del grans empreses tecnològiques en l’agricultura global, el creixement dels macrocentres de dades i les resistències comunitàries davant l’extractivisme. També hi han participat defensores de territoris de la República Democràtica del Congo, Guatemala o Mèxic, que han compartit les seves estratègies per plantar cara a les explotacions mineres. A més, com ja és habitual, el congrés ha dedicat també una jornada al programari lliure a través de la Jornada Dolibarr de SomNúvol.
Afegeix un nou comentari