Simón Perera: “Ens preocupen molt les esquerdes de diversitat en la tecnologia i la innovació”

‘Exploring Gender Bias in AI for Personalized Medicine: Focus Group Study With Trans Community Members’ és la darrera investigació que ha realitzat el BSC-CNS Barcelona Supercomputing Center juntament amb la col·laboració de l’associació PRISMA, la URV i la UPF. 

En Simón Perera, des de PRISMA, és un dels investigadors del projecte juntament amb l’Oriol Ríos, la Nataly Buslón i en Davide Cirillo.

Simón, com va ser aquesta unió amb el BSC-CNS? 

Ens van contactar per participar en un projecte a través del qual volien veure quina era la relació de les persones trans amb la salut; especialment, amb la biomedicina i la intel·ligència artificial. PRISMA va servir d’enllaç a l’hora de contactar amb la comunitat trans. Vam facilitar que els investigadors del BSC-CNS poguessin parlar amb les persones trans en les diverses reunions i focus grups que es van organitzar.

Com es van involucrar les persones trans del projecte? 

A banda dels focus grups, moltes d’elles van participar en la fase de disseny d’aquests. Van preparar les preguntes i el seu funcionament. Nosaltres vam estar presents també en aquestes reunions per assegurar que el procediment fos ètic i respectuós. No perquè desconfiéssim si no per estar presents i formar part del projecte.

Quins valors comparteix PRISMA amb el projecte? 

És una entitat centrada en la ciència, la tecnologia i la investigació pel que fa a les persones LGBTIQA+. A banda de ser l’enllaç entre les persones trans voluntàries i el projecte, un company de l’associació, l’Oriol Ríos, i jo vam col·laborar també en la part de la recerca.

I quines conclusions heu extret? 

La investigació encara no està publicada, però podem confirmar que hi ha reptes pel que fa a la relació entre les persones trans i la intel·ligència artificial aplicada a la salut i la biomedicina. Hem observat que hi ha una manca de coneixements de la realitat de les persones trans en el món sanitari que moltes vegades condueixen al binarisme de gènere i a un tracte poc respectuós.

Les intel·ligències artificials poden estar replicant els biaixos de qui les ha creat i poden ampliar la invisibilització de les persones trans

Com es trasllada a la intel·ligència artificial? 

Ens explicaven també que moltes d’elles havien fet servir aplicacions d’IA en l’àmbit de la salut i observaven encara molts estereotips fixos i binarisme. Per exemple, alguns formularis pregunten pel gènere sense tenir en compte la realitat del no binarisme. A vegades, el reconeixement de veu també és molt binari. En aquest sentit, les intel·ligències artificials poden estar replicant els biaixos de qui les ha creat i poden ampliar la invisibilització del col·lectiu.

Heu cercat solucions al problema? 

Sí. Algunes de les persones voluntàries van proposar solucions. Per exemple, formacions per a les persones sanitàries o de desenvolupament de la IA, col·laboracions amb persones o entitats connectades a aquesta realitat com seria el cas de PRISMA o TRÀNSIT, o també implicar les mateixes persones trans en el disseny d’aquestes aplicacions.

És la primera vegada que investigueu sobre aquest tema? 

Sí tot i que fa anys que investiguem i parlem de les esquerdes en diversitat que trobem en la tecnologia i la innovació. És un tema que ens preocupa molt. Hi ha diferents esquerdes entre aquests col·lectius minoritzats i la tecnologia i la investigació. Esquerdes de talent, de disseny i d’accés.

Quines iniciatives promoveu des de PRISMA? 

Doncs a banda de les investigacions, l’entitat treballa en diversos àmbits i projectes. Va començar el 2018 amb la idea de crear una associació LGBTIQA+ en ciència, tecnologia i innovació. No va ser fins al 2019 que es va fundar. Anualment, fem una conferència on persones LGBTIQA+ del territori i fins i tot d’altres països es troben i comparteixen la seva recerca i coneixements, fent noves connexions dins del marc d’un espai segur. També comptem amb formacions i formem part de les interlocucions amb els ministeris amb el propòsit que la ciència no quedi oblidada dins del col·lectiu.