El sistema Viogén és un algoritme que determina des del 2007 el grau de risc de les víctimes de violència de gènere. Fundación Eticas, en col·laboració amb la Fundació Ana Bella, que treballa amb dones supervivents de violència de gènere, n'ha fet una auditoria en el marc de la seva tasca d'avaluar l'impacte social de la intel·ligència artificial.

Conclou que hi ha falta de transparència ja que no han tingut accés a cap dada del sistema i quan s'han ofert al ministeri de l'Interior per auditorar l'eina confidencialment no han obtingut resposta. A més, calen investigacions independents ja que els estudis existents els han fet persones vinculades al ministeri. Tampoc s'ha consultat mai les usuàries quan, segons aquesta auditoria, el 80% desconfien d'aquest sistema.

A més, afirmen que l'algoritme necessita supervisió humana però que en el 95% dels casos no se'n modifica el resultat.

No hi ha risc en els casos del 45% de les víctimes

L'algoritme consta d'un qüestionari amb 35 indicadors que pot resultar ambigu i que entra en funcionament quan una dona denuncia i, per tant, les víctimes es poden trobar en un estat emocional alterat.

En aproximadament el 45% dels casos el sistema determina que no s'aprecia cap risc, el que es tradueix en què només una de cada set dones que denuncien reben protecció policial. El resultat és qüestionable tenint en compte que només el 21,7% de les dones que pateixen violència denuncien per les dificultats emocionals, estructurals i institucionals que suposa.

Un dels motius és que l'algoritme infravalora la violència psicològica i se centra en la física, i que disminueix el risc segons factors

Es recomana acompanyament i escolta

Des de l'entitat, fan una sèrie de propostes per millorar el sistema com ara facilitar l'accés a denunciar, augmentar el nombre d'especialistes en violència de gènere, i donar suport jurídic i psicològic a les víctimes per garantir el seu benestar mentre fan aquest procés.

També aconsellen que la policia acompanyi la puntuació amb una opinió professional i que es recullin periòdicament les opinions de les víctimes per tal de millorar el procés, així com que s'utilitzin dades històriques per definir patrons, a més de promoure el debat públic sobre els beneficis i riscos dels sistemes d'aprenentatge automàtic com Viogén.