Valóban feketedoboz az orvosi mesterséges intelligencia?

Balkányi, László (2026) Valóban feketedoboz az orvosi mesterséges intelligencia? LEGE ARTIS MEDICINAE, 36 (1-2). pp. 35-40. ISSN 0866-4811

Text 35-40balkanyi-mi.pdf - Published Version Restricted to Repository staff only until 26 February 2027. Download (2MB)

Abstract

A tanulmány a magyarázatra képes mesterséges intelligencia (MMI) orvostudományiszükségességét és alkalmazhatóságát vizsgálja. Bár a mélytanulási modellek diagnosztikai pontossága ma már vetekszik aszakorvosokéval, a rendszerek látszólagosfeketedoboz-jellege – azaz a döntési folyamat átláthatatlansága – akadályozza a széles körű klinikai elfogadást és veszélyeztetheti a betegbiztonságot. A szerző érveléseszerint valójában szürkedobozról van szó:a folyamat bonyolult, de megfelelő eszközökkel a szükséges mértékig áttekinthetővé tehető. A cikk bemutat néhány főbbMMI-módszert, például a gradiensalapúvizualizációkat: hőtérképekkel mutatjákmeg, hogy egy orvosi kép mely területei(pixelei) befolyásolták a döntést, segítve atéves asszociációk (például képi hibák) kiszűrését. További példák modellfüggetleneljárásokra a LIME és a SHAP, melyek bármilyen algoritmusnál képesek számszerűsíteni, hogy mely klinikai változók (laboreredmények tömege esetén) milyen súllyaljárultak hozzá egy kockázatbecsléshez. AzMMI alkalmazása azonban kihívásokkalküzd, mint a magyarázatok hűségének bizonytalansága, az orvosok megnövekedettkognitív terhelése és a szabályozási keretekhiánya. A jövőbeli fejlesztések iránya leheta szabványosított értékelési mutatók bevezetése és az orvosi tudásbázisokat integráló (neuroszimbolikus) modellek fejlesztéseis. A konklúzió szerint az MMI nem csupántechnikai kiegészítés, hanem az etikus ésfelelősségteljes orvosi MI-alkalmazás alapfeltétele.

Actions (login required)

Edit Item