Mennyire bízzunk az AI-ban?

A University of the Basque Country kutatója, Aranzazu Vinas és munkatársai a PLOS Digital Health folyóirat hasábjain számoltak be egy érdekes vizsgálat eredményeiről. Azokban az esetekben, amikor az orvosoknak hipotetikus betegek kezeléséről kellett dönteniük, a résztvevők hajlamosak voltak megbízni a mesterséges intelligenciának (MI) tulajdonított, valójában hibás ajánlásokban – még akkor is, amikor lehetőségük nyílt arra, hogy a betegek más adataiból észrevegyék a javaslatok téves voltát.

A klinikai gyakorlatban az MI-rendszerek segíthetnek a betegek osztályozásában, például annak megítélésében, hogy egy adott páciens várhatóan profitál-e egy bizonyos terápiából. Mivel ezek az algoritmusok nem hibátlanok, működésük csak ajánlásként értelmezendő, amelyet az orvosoknak szükség esetén felül kell vizsgálniuk. Korábbi kutatások azonban azt mutatták, hogy az emberek általában nehezen veszik észre az MI tévedéseit, és még nehezebben korrigálják azokat. Vinas és kollégái azt vizsgálták, hogy ez a probléma mennyiben érinti az orvosokat, és ehhez 223 anonim módon részt vevő orvos tevékenységét elemezték egy online felmérés során.

A résztvevőket arra kérték, képzeljék el, hogy egy ritka betegség kezelésére egy fejlesztés alatt álló, még nem bizonyított hatékonyságú terápiát alkalmazhatnak. Azt az információt kapták, hogy egy MI-rendszer előre jelezte, mely betegek számára lenne várhatóan előnyös a kezelés. Az orvosok ezután kiválasztották, kiket kezelnének, majd a bemutatott felépülési adatok alapján értékelték az MI megbízhatóságát.

A kísérletek kulcseleme az volt, hogy a kezelés tényleges hatékonysága nem felelt meg az MI ajánlásainak. Az egyik vizsgálatban a terápia minden beteg esetében mérsékelten hatékonynak bizonyult, a másikban pedig egyáltalán nem volt hatása. Ennek ellenére mindkét esetben az orvosok magas megbízhatósági értéket adtak az MI-rendszernek, és láthatóan nem használták fel a felépülési szakasz során keletkezett adatokat annak felismerésére, hogy az algoritmus tévesen osztályozta a betegeket. A második kísérletben pedig még azt sem vették észre, hogy a kezelés teljes mértékben hatástalan volt.

Az eredmények rámutatnak az MI-alapú betegosztályozás egészségügyi integrációjának egyik fontos kihívására. A jövőbeli kutatások olyan protokollok és módszerek kidolgozására irányulhatnak, amelyek erősítik a kritikus gondolkodást és javítják az MI-hibák felismerését, ezáltal növelve az ember és MI közötti együttműködés előnyeit és csökkentve a tévedésekből fakadó kockázatokat.

Vinas szerint mindkét kísérlet azt mutatta, hogy az orvosok nagyrészt megbíztak az MI osztályozásában, és nehezen tanultak a visszajelzésekből. Hozzátette, hogy bár gyakran hangoztatják: „mindig van egy ember, aki felügyeli az algoritmust”, a vizsgálatok azt mutatják, hogy az orvosok – akárcsak mások – nehezen jutnak helyes következtetésekre akkor, amikor a bizonyítékok ellentmondanak az MI javaslatainak. Vinas szerint pont ezért elengedhetetlen feltárni, milyen hibákat követnek el az emberek algoritmusokkal együtt dolgozva, hogy ezekből tanulva csökkenthetők legyenek a rendszerből fakadó problémák, hibás döntések.

Írásunk az alábbi közlemények alapján készült:

Physicians often trust incorrect AI treatment recommendations, study finds

Doctors vs. Algorithms: Physicians, too, struggle to learn from evidence that contradicts AI suggestions

Irodalmi hivatkozás:

Vinas, A., et al. (2026) Doctors vs. Algorithms: Physicians, too, struggle to learn from evidence that contradicts AI suggestions. PLOS Digital Health. DOI: 10.1371/journal.pdig.0001490. https://journals.plos.org/digitalhealth/article?id=10.1371/journal.pdig.0001490