Model PIO, eina d’autoavaluació en l’ús ètic de dades i sistemes d’intel·ligència artificial
Comparteix
Presentació de l'eina Model PIO
Amb aquest nou recurs totes aquelles entitats que treballen en tecnologies de dades i sistemes d’intel·ligència artificial (IA) poden conèixer quin grau d’adopció dels principis ètics apliquen en l’ús d’aquestes tecnologies.
L'Observatori d'Ètica en intel·ligència artificial (OEIAC) ha impulsat aquesta iniciativa innovadora, ja que és la primera guia d'implementació i autoavaluació de dades i sistemes d'IA que permetrà a les entitats que l'utilitzin, entre altres coses, obtenir una insígnia de qualitat de retorn. També permetrà a les entitats descobrir què cal treballar i millorar per adoptar una IA basada en l'ètica i en la responsabilitat.
El model permet a les entitats fer una autoavaluació de 7 eixos o principis relacionats amb l'ètica de les dades i dels sistemes d'IA a través d'un formulari amb respostes positives i negatives que permet a l'OEIAC analitzar-les qualitativament i proporcionar retorn a l'organització que l'hagi realitzat si així ho desitja, rebent-ne la valoració de cadascun i aconseguint una insígnia amb el resultat juntament amb recomanacions específiques de millora.
Els eixos que analitza l'eina són: transparència i explicabilitat, justícia i equitat, seguretat i no maleficència, responsabilitat i retiment de comptes, privacitat, autonomia i sostenibilitat.
Aquest model suposa un pas més per avançar en la integració de la teoria a la pràctica de principis ètics fonamentals de la IA i contribuir així a l'objectiu últim de construir una IA més transparent, més explicable, més justa, més segura, més responsable i més sostenible.
Model PIO (Principis, Indicadors, Observables), un instrument essencial per sensibilitzar les entitats sobre les implicacions morals de fer servir models d'IA, ha estat desenvolupada amb el suport de la Universitat de Girona i de la fundació i2CAT.
L'eina ha estat creada amb un doble propòsit: d'una banda, sensibilitzar i conscienciar les entitats que utilitzen o duen a terme sistemes d'IA sobre la importància d'adoptar principis ètics en l'ús d'aquestes tecnologies per minimitzar-ne els riscos maximitzar-ne les oportunitats; i, d'altra banda, identificar accions per promoure l'ús ètic de les dades i sistemes d'IA.
Afegeix un nou comentari