Model PIO, eina d’autoavaluació en l’ús ètic de dades i sistemes d’intel·ligència artificial

Minyons Escoltes i Guies de Catalunya
Autor/a: 
Vanesa Vilaseca
Presentació de l'eina Model PIO Font: OEIAC
Presentació de l'eina Model PIO Font: OEIAC

Model PIO, eina d’autoavaluació en l’ús ètic de dades i sistemes d’intel·ligència artificial

Autor/a: 
Vanesa Vilaseca
Minyons Escoltes i Guies de Catalunya

Resum: 

Amb aquest nou recurs totes aquelles entitats que treballen en tecnologies de dades i sistemes d’intel·ligència artificial (IA) poden conèixer quin grau d’adopció dels principis ètics apliquen en l’ús d’aquestes tecnologies.

L'Observatori d'Ètica en intel·ligència artificial (OEIAC) ha impulsat aquesta iniciativa innovadora, ja que és la primera guia d'implementació i autoavaluació de dades i sistemes d'IA que permetrà a les entitats que l'utilitzin, entre altres coses, obtenir una insígnia de qualitat de retorn. També permetrà a les entitats descobrir què cal treballar i millorar per adoptar una IA basada en l'ètica i en la responsabilitat.

El model permet a les entitats fer una autoavaluació de 7 eixos o principis relacionats amb l'ètica de les dades i dels sistemes d'IA a través d'un formulari amb respostes positives i negatives que permet a l'OEIAC analitzar-les qualitativament i proporcionar retorn a l'organització que l'hagi realitzat si així ho desitja, rebent-ne la valoració de cadascun i aconseguint una insígnia amb el resultat juntament amb recomanacions específiques de millora.

Els eixos que analitza l'eina són: transparència i explicabilitat, justícia i equitat, seguretat i no maleficència, responsabilitat i retiment de comptes, privacitat, autonomia i sostenibilitat.

Aquest model suposa un pas més per avançar en la integració de la teoria a la pràctica de principis ètics fonamentals de la IA i contribuir així a l'objectiu últim de construir una IA més transparent, més explicable, més justa, més segura, més responsable i més sostenible.

Model PIO (Principis, Indicadors, Observables), un instrument essencial per sensibilitzar les entitats sobre les implicacions morals de fer servir models d'IA, ha estat desenvolupada amb el suport de la Universitat de Girona i de la fundació i2CAT.

L'eina ha estat creada amb un doble propòsit: d'una banda, sensibilitzar i conscienciar les entitats que utilitzen o duen a terme sistemes d'IA sobre la importància d'adoptar principis ètics en l'ús d'aquestes tecnologies per minimitzar-ne els riscos maximitzar-ne les oportunitats; i, d'altra banda, identificar accions per promoure l'ús ètic de les dades i sistemes d'IA.

Afegeix un comentari nou