Systematic Evaluation of Trustworthy AI Augmentation in Modern Applications

Abstract

Tehisintellekt (AI) on levinud mitmetes sektorites, sealhulgas tervishoius, rahanduses, hariduses ja transpordis, muutes ülesannete täitmist ja otsuste tegemist. Kuid tehisintellekti kiire integreerimine on tekitanud märkimisväärset muret eraelu puutumatuse, eelarvamuste, turvalisuse ja tehisintellekti süsteemide, mida sageli nimetatakse „mustadeks kastideks“, läbipaistmatuse pärast. Need probleemid rõhutavad kriitilist puudujääki, mis on seotud tehisintellekti süsteemide tõhususe ja usaldusväärsuse tagamisega. Käesolevas uuringus käsitletakse seda puudujääki, keskendudes pideva inimliku järelevalve praktilisele rakendamisele tehisintellekti arendamisel. Uuringus hinnatakse konkreetselt SPATIAL platvormi jaoks välja töötatud adaptiivset armatuurlauda, et suurendada tehisintellekti läbipaistvust ja aruandekohustust. Uuringus hinnatakse eksperimentide kaudu meditsiinilise analüüsimooduliga (MAM), mis kasutab seletava tehisintellekti (XAI) meetodeid, et anda elektrokardiogrammi (EKG) andmeid analüüsivatele sidusrühmadele rollipõhiseid selgitusi, tehisintellekti genereeritud selgituste tõlgendatavust ja süsteemi toimimist erineva kasutajakoormuse korral. Tulemused näitavad, et kohandatud selgitused parandavad märkimisväärselt kasutajate arusaamist ja usaldust, samas kui süsteem säilitas tugeva jõudluse, tagades skaleeritavuse ja usaldusväärsuse. Need teadmised annavad väärtuslikke juhiseid praktiliste vahendite väljatöötamiseks, et tõhustada tehisintellekti järelduste jälgimist ja järelevalvet, mis on kooskõlas usaldusväärse tehisintellekti regulatiivsete nõuetega.