Errendimenduari buruzko informazioa, eredu esplikagarriak gainbegiratuta

Eraldaketa digitalaren aro betean, Adimen Artifiziala (AA) izan da Bizkaiko enpresek azken urtean gehien erabili duten teknologia. Erabiltzen duten erakundeen ehunekoa bikoiztu egin da 2023arekin alderatuta, eta aurreikuspena da AAko inbertsioak handitzen jarraituko duela. Hala ere, AAn oinarritutako tresnak ekoizpen mailan erabiltzeak (TRL9) hainbat arrisku eta erronka dakartza. Tresna horiek erabiltzen dituzten ereduek errendimendua okerragotzeko joera dute, ingurune operatiboetan hedatzen direlako eta denborarekin degradatzen direlako. Gainera, eredu horiek modu opakuan funtzionatzen dute, normalean "kutxa beltz" deitzen zaie, eta gizakiek ez dute erraz ulertzen nola funtzionatzen duten, eta horrek zaildu egiten du horiek mantentzea. Proiektu honetan proposatzen da ingurune operatiboetan hedatutako AA ereduak denbora errealean monitorizatzeko tresna bat garatzea. Tresna horrek Adimen Artifizial Esplikagarriko teknikak (XAI), ereduen deriba detektatzea eta aurkako erasoak detektatzea erabiliko ditu, ereduak arrazoi natural edo maltzurrengatik izan ditzakeen akatsak automatikoki detektatzeko eta gizakiek ulertzeko moduko txostenak sortzeko. Enpresek informazio hori erabili ahal izango dute beren produktuan ahultasunak identifikatzeko eta ulertzeko, eta hura hobetzeko prozesua aktibatzeko.