Umetna inteligenca v zdravstvu: nezanesljiva in napačne diagnoze raka

V mednarodni študiji, objavljeni v European Journal of Pathology, so raziskovalci iz Humanitas University v Rozzanu analizirali zanesljivost klepetalnikov z umetno inteligenco (IA) pri reševanju kliničnih vprašanj s področja patologije. Rezultati so pokazali, da IA v kar 70 odstotkih primerov poda vsaj eno napačno informacijo, medtem ko je bilo 30 odstotkov bibliografskih virov netočnih ali izmišljenih.

Študija opozarja na potrebo po kritični presoji uporabe IA v klinični praksi. 

Pokazala pa je naslednje: 

-62,2 % odgovorov je bilo uporabnih

-le 32,1 % odgovorov ni vsebovalo napak

Od 214 bibliografskih virov je bilo 70,1 % pravilnih, 12,1 % netočnih, 17,8 % pa povsem izmišljenih.

Med najresnejšimi napakami so bile napačne diagnoze kožnega raka in napačna klasifikacija vrste raka dojke, skupaj z izmišljenimi viri, ki so bili videti verodostojni.

»Gre za orodja, ki jih je treba uporabljati z veliko previdnostjo, saj lahko vodijo do napačnih diagnostičnih odločitev z negativnim vplivom na terapevtske izbire,« opozarja Vincenzo Guastafierro, vodja študije.

Umetna inteligenca je torej lahko koristna podpora, vendar ne  more bitinadomestilo za klinično presojo. Študija poziva k previdnosti tudi pri uporabi IA kot učnega pripomočka za zdravnike, saj netočni viri lahko vodijo v napačno razumevanje. Raziskave se bodo nadaljevale z novejšimi različicami IA, da bi spremljali njeno evolucijo in zanesljivost.