L’Observatori
d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) de la Universitat de Girona (UdG) comptarà aquest any
amb una subvenció de gairebé 400.000 € de la Secretaria de Polítiques Digitals
del Departament d’Empresa i Treball, per afrontar els nous reptes ètics i
legals que planteja el desenvolupament i l’adopció de la IA a Catalunya. Així
ho han explicat avui el vicerector de Projectes Estratègics i
Internacionalització de la Universitat de Girona, Josep Calbó, i la
secretària de Polítiques Digitals, Maria Galindo.
En aquest
mateix sentit s’ha pronunciat el vicerector Calbó, que ha posat en valor
el Model PIO aplicat a l’àmbit de la salut que s’ha presentat avui: “Estem molt
orgullosos perquè avui es presenta el resultat d’una feina molt alineada amb la
visió de la UdG de col·laborar amb l’ecosistema i amb caràcter
interdisciplinari”. En aquest sentit, el vicerector ha destacat que es tracta “d’una
visió que encaixa amb la del Pla estratègic de la UdG que aposta per la suma
d’intel·ligències i també amb la de l’Estratègia d’Intel·ligència Artificial
que impulsa la Generalitat de Catalunya, de la qual l’OEIAC n’és un pilar
fonamental”.
Eines
pioneres al servei de l’ecosistema
Promogut
conjuntament per la UdG i la Secretaria de Polítiques Digitals per estudiar les
conseqüències ètiques, socials i legals i els riscos i oportunitats de la
implantació de la IA Catalunya, l’OEIAC és un dels pilars fonamental de l’Estratègia d’Intel·ligència Artificial de Catalunya.
A través seu, s’impulsen projectes i es faciliten eines a l’ecosistema com el
nou Model PIO (Principis, Indicadors i Observables) d’avaluació de
riscos associats a la IA, una eina pionera tant per la seva concepció com pel
seu caràcter de servei públic i d’accés lliure.
El model,
disponible en obert i per a tothom, conté recomanacions ètiques en base a 7
principis fonamentals (transparència, justícia, responsabilitat, seguretat,
privacitat, autonomia i sostenibilitat), però també obligacions legals, i
afavoreix el compliment de la normativa i regulació vigent sobre la IA a través
d’un procés de verificació exhaustiu.
Així, permet
identificar accions adequades o inadequades i dona eines per fomentar usos
ètics i responsables de les dades i sistemes d’IA, com ara exemples d’aplicació
pràctica i un catàleg que conté tota la documentació i normes jurídiques en què
s’ha basat el model d’avaluació.
A partir
d’aquest model i seguint el mateix format i metodologia, l’OEIAC està
desenvolupant els Models PIO sectorials, adaptacions que s’elaboren amb
diferents professionals i persones usuàries per donar resposta a les
necessitats específiques d’àmbits o sectors concrets com la salut o l’educació.
El Model PIO
adaptat a les necessitats de l’àmbit de la salut
Així sorgeix
el Model PIO Salut, el model d’autoavaluació
per al compliment dels estàndards ètics i normatius aplicables als sistemes
d’IA en l’àmbit de la salut, que l’OEIAC ha desenvolupat en col·laboració amb
del Sistema de Salut de Catalunya a través de la Fundació TIC Salut Social, i
de l’empresa Pickle Tech. Es tracta del primer dels models sectorials
desenvolupats per l’OEIAC i s’ha presentat avui a Girona en la sessió inaugural
de la cinquena edició del Cicle de Seminaris de l’OEIAC, presidida per la
secretària Galindo i el vicerector Calbó.
L’àmbit de
la salut està experimentant una de les acceleracions més significatives en l’ús
de dades i sistemes d’IA: les aplicacions d’IA s’utilitzen àmpliament com a
eines de diagnòstic clínic, per dur a terme tractaments o per fer el seguiment
de pacients en temps real. Malgrat que la integració de la IA promet una
precisió millorada, intervencions més ràpides i una atenció més personalitzada,
d’aquesta nova realitat també sorgeixen riscos particulars que requereixen d’un
abordament especialitzat. Per això, el Model PIO Salut promou una
revisió a través d’una interrogació detallada i continuada d’aspectes diversos,
de possibles errors i de resultats inesperats o de risc potencial, abans i
durant el desplegament d’un sistema d’IA.
Així,
el Model PIO Salut té com a objectiu principal sensibilitzar sobre
l’ús ètic dels sistemes d’IA a tots els agents involucrats dins del cicle de
vida dels sistemes aplicats en salut en cadascuna de les fases del seu cicle de
vida: des del disseny, la modelització i la validació, al desplegament i el
monitoratge un cop el sistema d’IA és operatiu. El model també té com a
objectiu identificar accions adequades i inadequades que es donen durant tot
aquest cicle a través del sistema d’autoavaluació que proposa i que permet
valoritzar, recomanar i avançar en l’ús ètic de dades i sistemes d’IA.
La
presentació del Model PIO Salut ha anat a càrrec del director de
l’OEIAC, Albert Sabater; la tècnica jurista especialista en IA i salut de
l’OEIAC, Alexandra Lillo; la secretària del Programa per a la promoció i
desenvolupament de la IA al Sistema de Salut de Catalunya de la Fundació TIC
Salut Social, Susanna Aussó; i del fundador i director de Pickle Tech i
director d’Innovació a ABCDx, Juan González, especialista en IA per a
dispositius mèdics.
