Lourdes Muñoz: “Volem utilitzar la IA per detectar violència masclista i generar canvi social”
Comparteix
El projecte 'EQUAL', impulsat per Dones en Xarxa i desenvolupat tecnològicament per l’equip Data Woman, analitza publicacions a xarxes socials amb intel·ligència artificial per identificar missatges masclistes.
'EQUAL' és un projecte pioner que combina feminisme, tecnologia i acció social. Nascut el 2019 per detectar violència masclista a les xarxes, ha evolucionat fins a incorporar un algoritme d’intel·ligència artificial capaç de classificar missatges en categories masclistes, neutres o feministes.
El projecte no només analitza dades: les converteix en processos participatius, 'datatons' i campanyes de sensibilització per transformar la percepció social i implicar joves i entitats en la lluita contra la violència digital. Per saber-ne més, hem parlat amb una de les seves impulsores, la Lourdes Muñoz de Dones en Xarxa.
Com va néixer el projecte 'EQUAL'?
El projecte va néixer el 2019 des de Dones en Xarxa, amb l’objectiu de detectar violència masclista a les xarxes socials. Al principi treballàvem amb missatges que la gent ens enviava i els classificàvem segons les definicions de la ONU. Amb el temps, el projecte ha evolucionat i ara incorporem un algoritme d’intel·ligència artificial desenvolupat amb l’equip Data Woman.
Quina és la relació entre Dones en Xarxa i Data Woman?
Són projectes diferents, però amb objectius comuns. Dones en Xarxa lidera la part conceptual, feminista i de divulgació i Data Woman aporta el desenvolupament tecnològic. És un projecte col·laboratiu que aprofita les fortaleses de cada equip.
Quins obstacles digitals afecten especialment les dones?
El projecte ja neix d’una pràctica feminista. Treballem des de fa anys amb la manca de dades desagregades per sexe, amb el feminisme de dades i amb la necessitat d’incorporar la perspectiva de drets de les dones en qualsevol projecte tecnològic. Si no ho fas, pots acabar reproduint desigualtats fins i tot en projectes que volen ajudar les dones.
Com funciona l’anàlisi de publicacions a xarxes?
Seleccionem comunitats concretes que utilitzen una etiqueta i comparem què passa en el mateix període de temps. Això ens permet analitzar missatges reals i veure quina proporció és masclista, neutra o igualitària. Un exemple és la comparativa entre seguidors de 'The Wild Project' i 'Al cielo con ella', on vam detectar diferències molt significatives.
Què feu amb les dades un cop analitzades?
No ens quedem en l’informe. Fem intervenció social: 'datatons' amb joves i entitats, espais per revisar els missatges reals, reflexionar sobre polarització i construir missatges per a campanyes de sensibilització. L’objectiu és que les dades serveixin per canviar percepcions i generar acció col·lectiva. Volem utilitzar la IA per detectar violència masclista i generar canvi social.
Quins són els següents passos del projecte?
Estem desenvolupant una segona fase de la IA perquè, dins la categoria 'masclista', pugui classificar tipologies concretes com insults o contingut sexual. També busquem ajuntaments i organitzacions que vulguin encarregar informes i participar en 'datatons' de control ètic. Això ens permet millorar l’algoritme, sensibilitzar més persones i fer créixer l’impacte social del projecte.
Afegeix un nou comentari