A röntgenkép, amit az orvos nem tud megkülönböztetni a valóditól – ez már nem sci-fi

Egy március 24-én a Radiology folyóiratban megjelent tanulmány eredményei szerint a mesterséges intelligencia által generált röntgenfelvételek ma már annyira valósághűek, hogy még a legjobban felkészített szakemberek is rendszeresen becsaphatók velük. A vizsgálatban részt vevő radiológusok átlagosan az esetek 75 százalékában tudták helyesen megkülönböztetni a valódi röntgenfelvételeket a szintetikusaktól – és ezt azután, hogy előre figyelmeztették őket: deepfake képek is vannak az adathalmazban.

A tanulmányban tizenhét radiológus vett részt 12 kutatóközpontból, hat különböző országból: az Egyesült Államokból, Franciaországból, Németországból, Törökországból, az Egyesült Királyságból és az Egyesült Arab Emírségekből. Feladatuk az volt, hogy 264 röntgenfelvételt vizsgáljanak meg – amelyek fele valódi, fele pedig MI által generált volt. A részletek azonban igazán elgondolkodtatóak. Amikor a résztvevők kezdetben nem tudták a kutatás valódi célját, mindössze 41 százalékuk vetette fel spontán, hogy esetleg mesterségesen előállított képek is lehetnek köztük. Vagyis a szakemberek többsége észre sem vette, hogy manipulált anyagot néz.

Az egyéni pontosság 58 és 92 százalék között mozgott – és ami különösen meglepő: a tapasztalat évei, amelyek a résztvevők esetében nullától egészen 40 évig terjedtek, semmilyen összefüggést nem mutattak a felismerési képességgel. Egy frissen végzett orvos tehát nem feltétlenül rosszabb ebben, mint egy négy évtizedes rutinnal rendelkező szakember. A mozgásszervi radiológusok ugyanakkor felülmúlták a többi szakterület képviselőit. A kutatók négy mesterséges intelligencia alapú nagy nyelvi modellt is teszteltek, köztük a GPT-4o-t és a Gemini 2.5 Pro-t. Ezek 57 és 85 százalék közötti pontosságot értek el a ChatGPT által generált képek azonosításában – vagyis az MI sem sokkal jobb az embernél abban, hogy felismerje a saját fajtáját.

„Túl tökéletesek” – az árulkodó jelek

Mickael Tordjman, a New York-i Mount Sinai Icahn Orvostudományi Iskola radiológusa és a tanulmány vezető szerzője elmondta, mire érdemes figyelni: a mesterségesen generált röntgenképek sokszor „túl tökéletesnek tűnnek”. Árulkodó jelek lehetnek a túlságosan sima csontfelszínek, a természetellenesen egyenes gerincoszlopok és a feltűnően egyenletes érrendszeri mintázatok. Az igazi röntgen tele van apró tökéletlenségekkel – a csontok nem szimmetrikusak, az erek kicsit rendetlenül futnak. A valóság nem ilyen steril.

„Tanulmányunk bebizonyítja, hogy ezek a deepfake röntgenfelvételek elég valósághűek ahhoz, hogy becsapják a radiológusokat, a legmagasabb szintű képzést kapott orvosi képalkotási szakembereket, még akkor is, ha tudták, hogy MI által generált képek vannak jelen”

– foglalta össze Tordjman.

Törvényszéki visszaélések, kórházi hackertámadások – a veszély nem elvont

A kutatás következményei jócskán túlmutatnak a radiológiai osztályokon. Tordjman arra figyelmeztetett, hogy „komoly sérülékenység áll fenn a csalárd peres eljárások terén, ha például egy fabrikált töréskép megkülönböztethetetlen lenne egy valóditól”. Ennél is riasztóbb forgatókönyv, ha hackerek szintetikus képeket juttatnak be kórházi hálózatokba, hogy manipulálják a diagnózisokat. Elisabeth Bik mikrobiológus és képintegritási szakértő a Nature-nek azt nyilatkozta, hogy az eredmények „egyszerre nyugtalanítóak és nem is túlságosan meglepőek”, hozzátéve, hogy a fenyegetés „a kutatási integritásra, klinikai munkafolyamatokra, biztosítási kárigényekre és jogi kontextusokra is kiterjed, ahol képi bizonyítékokat használnak”. Vagyis nem csupán egy orvosi probléma – jogi, biztosítási és tudományos integritási kérdés is egyszerre.

A tanulmány szerzői ellenintézkedéseket is javasolnak: láthatatlan digitális vízjeleket és kriptográfiai aláírásokat, amelyeket a kép elkészítésének pillanatában automatikusan csatolnak hozzá – egyfajta digitális ujjlenyomatot, amely igazolja, hogy a felvétel valódi készülékkel, valódi páciensnél született. Tordjman azonban arra is figyelmeztet, hogy ez csupán a kezdet: „Valószínűleg csak a jéghegy csúcsát látjuk. Ennek a fejlődésnek a logikus következő lépése a szintetikus háromdimenziós képek, például CT- és MRI-felvételek mesterséges intelligenciával történő generálása. Kulcsfontosságú, hogy már most létrehozzuk az oktatási adatbázisokat és az észlelőeszközöket.” Más szóval: az orvosi képalkotás világa egy olyan versenyfutásba csöppent, amelyre senki sem igazán készült fel. A kérdés az, hogy a védekezés képes lesz-e lépést tartani azzal a technológiával, amelyet eredetileg éppen az orvosok munkájának megkönnyítésére fejlesztettek ki.

FORRÁS

(Nethuszár)