L’equip de la Unitat de Gràfics i Visió per Ordinador i IA (UGiVIA) i del Laboratori d’Aplicacions d’Intel·ligència Artificial de la Universitat de les Illes Balears (LAIA@UIB) proposa un model per validar la precisió de les explicacions que generenels models d’intel·ligència artificial.
Un equip d’investigadors de la Unitat de Gràfics i Visió per Ordinador i IA (UGiVIA) i del Laboratori d’Aplicacions d’Intel·ligència Artificial de la Universitat de les Illes Balears (LAIA@UIB) ha publicat un estudi pioner sobre les mètriques de fidelitat per a la Intel·ligència Artificial explicable (XAI). L’estudi aborda la necessitat de validar les mètriques de fidelitat que s’utilitzen per avaluar la precisió de les explicacions que generen els models d’intel·ligència artificial.
La fidelitat es refereix a la precisió amb què les explicacions que genera un sistema d’intel·ligència artificial reflecteixen les causes reals que el model ha après. És a dir, una mètrica de fidelitat mesura si les explicacions que proporciona un model d’intel·ligència artificial són veraces i representen correctament el funcionament intern del model. Per exemple, si un model d’intel·ligència artificial fa una predicció basada en certs factors, una explicació fidel hauria de mostrar aquests factors exactament com la causa de la predicció.
Avaluar la precisió de les explicacions
Les mètriques de fidelitat són importants perquè permeten als investigadors i usuaris confiar en les explicacions que proporciona la intel·ligència artificial, i assegurar que aquestes són una representació precisa del que el model ha après.
La recerca, publicada en la revista Information Processing & Management, destaca la manca d’una avaluació objectiva de la fidelitat entre l’explicació i la causa real que aprèn el model. Els investigadors han desenvolupat una metodologia innovadora que utilitza models transparents per verificar les mètriques de fidelitat, i que permet obtenir explicacions amb una fidelitat perfecta.
Aquesta proposta constitueix el primer punt de referència objectiu per a aquestes mètriques, facilita la comparació de les propostes existents i supera els mètodes actuals.
Els resultats de l’estudi indiquen que les mètriques de fidelitat actuals no són prou fiables per utilitzar-se en escenaris reals. Per tant, els investigadors recomanen el desenvolupament de noves mètriques i l’ús de la seva proposta com a punt de referència dins la comunitat científica per abordar aquestes limitacions.
Equip investigador
Els investigadors del Departament de Ciències Matemàtiques i Informàtica de la Universitat de les Illes Balears que han participat en aquest estudi són els doctors Miquel Miró Nicolau, Antoni Jaume Capó i Gabriel Moyà Alcover, membres de la Unitat de Gràfics i Visió per Ordinador i IA (UGiVIA) i del Laboratori d’Aplicacions d’Intel·ligència Artificial de la UIB (LAIA@UIB).
L’estudi s’ha fet en el marc dels projectes d’R+D+I PID2019-104829RA-I00 EXPLainable Artificial INtelligence systems for health and well-beING (EXPLAINING), finançat pel Ministeri de Ciència i Innovació, i l’Agència Estatal d’Investigació (MCIN/AEI/10.13039/501100011033/) i PID2023-149079OB-I00 (EXPLAINME), finançat pel Ministeri de Ciència, Innovació i Universitats, i l’Agència Estatal d’Investigació (MICIU/AEI/10.13039/501100011033) i el Fons de Desenvolupament Regional Europeu de la Unió Europea. Miquel Miró Nicolau ha estat beneficiari del contracte predoctoral FPI_035_2020 del Govern de les Illes Balears.
Referència bibliogràfica
Miró-Nicolau, M., Jaume-i-Capó, A., & Moyà-Alcover, G. (2025). A comprehensive study on fidelity metrics for XAI. Information Processing & Management, 62(1), 103900.
https://doi.org/10.1016/j.ipm.2024.103900
Notícies relacionades
- Investigadors de la UIB desenvolupen noves eines per avaluar l’explicabilitat de la intel·ligència artificial
- En què s’ha de fixar la intel·ligència artificial per reconèixer més bé les expressions facials?
- Investigadors de la UIB innoven en la resolució de trencaclosques lògics amb intel·ligència artificial
- La mirada de la multitud millora els mètodes d’aprenentatge automàtic
- Com incrementar la confiança en la intel·ligència artificial per afavorir-ne l’ús en l’àmbit mèdic?
- Un nou sistema per millorar el diagnòstic del càncer de mama a partir d’intel·ligència artificial
Data de l’esdeveniment:
24/03/2025
Data de publicació: Mon Mar 24 07:33:00 CET 2025