Meglepetés: a chatbotok NEM éreznek

A Montréali Egyetem és a Johns Hopkins Egyetem idegtudósaiból álló kutatócsoport ezen a héten egy tanulmányt tett közzé, amelynek üzenete egyszerűen összefoglalható, még ha következményei annál összetettebb kérdéseket vetnek is fel: az AI chatbotok egyre természetesebb, egyre empatikusabbnak tűnő viselkedése mögött nem áll semmiféle valódi érzelem vagy tudatos tapasztalat, és az a hajlamunk, hogy mégis ilyeneket tulajdonítsunk nekik, komoly félreértésekhez — és bizonyos helyzetekben komoly károkhoz — vezethet.

A kutatók egy különleges neurológiai jelenséget, az úgynevezett vakfolt-látást hívták segítségül ahhoz, hogy megvilágítsák, miért megtévesztő az AI viselkedése: a vakfolt-látásban szenvedő betegek elveszítik a tudatos vizuális észlelés képességét, vagyis szó szerint nem látnak bizonyos ingereket, ám ennek ellenére képesek vizuális feladatokat elvégezni, mert agyuk tudattalanul is feldolgozza az információt — és ebből a kutatók azt a következtetést vonják le, hogy a kifinomult információfeldolgozás önmagában egyáltalán nem feltételez tudatos tapasztalatot, belső élményt vagy érzést. Ugyanez a logika érvényes az AI-rendszerekre is: a modern chatbotok statisztikai tanulás révén generálnak válaszokat, vagyis hatalmas mennyiségű emberi szövegből tanulják meg, hogy milyen helyzetben milyen választ szoktak adni az emberek, és ezt a mintázatot rendkívüli pontossággal reprodukálják — de ez a folyamat semmiben sem hasonlít arra, ahogyan egy ember átéli a fájdalmat, az örömöt vagy az empátiát, és Karim Jerbi, a Montréali Egyetem idegtudósa szerint „a jelenlegi mesterségesintelligencia-rendszerek nem éreznek semmit, és nincs tudatos tapasztalatuk.”

Miért vagyunk mégis hajlamosak elhinni, hogy éreznek?

Jerbi a jelenséget „antropomorfizációs csapdának” nevezi, ami azt az emberi hajlamot írja le, hogy érzelmeket, szándékokat vagy tudatosságot tulajdonítunk olyan dolgoknak, amelyek csupán emberszerűen viselkednek — és rámutat arra, hogy minél folyékonyabban és természetesebben beszél egy AI-rendszer, minél érzékenyebben reagál az általunk felvetett problémákra, annál nehezebb fejben tartani, hogy mindez mögött nem áll átélt tapasztalat, csupán rendkívül kifinomult mintafelismerés.

Vanessa Hadid, a tanulmány montréali társszerzője azt hangsúlyozza, hogy az információfeldolgozás „bármilyen kifinomult is, önmagában nem elegendő a tudatos tapasztalat meglétének bizonyításához” — ez a mondat azért kulcsfontosságú, mert éppen azt a köznapi intuíciónkat kérdőjelezi meg, amely szerint aki okosan és érzékenyen válaszol, az biztosan ért és érez is valamit, hiszen az emberi tapasztalatban ez a kettő valóban elválaszthatatlan, de az AI esetében nem az.

A kutatók az évtizedes idegtudományi kutatásokra támaszkodnak, amelyek azt mutatják, hogy az emberi agyban is rengeteg észlelési, tanulási és érzelmi reakció megy végbe tudatosság nélkül, szinte automatikusan — és ebből a szempontból a chatbotok viselkedése nem egy ismeretlen, idegen jelenség, hanem egy olyan „számítástechnikai automatizmus”, amely visszaköszön abban, ahogyan a biológiai agyak is tudattalanul irányítják a viselkedés nagy részét.

A tanulmányt, amelyet a The Transmitter közölt júniusa elején, az teszi különösen időszerűvé, hogy az AI-rendszereket egyre szélesebb körben használják tanácsadásra, vigasznyújtásra és pszichológiai támogatásra — vagyis pontosan azokban a helyzetekben, ahol az ember a legsebezhetőbb, és ahol a leginkább hajlamos arra, hogy valódi megértést és empátiát keressen a másik félben. A kutatók ezért arra ösztönzik a felhasználókat, hogy az AI-t számítási eszközként kezeljék, ne pedig a professzionális emberi gondoskodás helyettesítőjeként, különösen olyan érzékeny területeken, mint a mentális egészség — mert ha valaki egy nehéz élethelyzetben úgy érzi, hogy a chatbot valóban érti és átérzi a problémáját, és erre alapozva mond le az emberi szakember felkereséséről, akkor egy nagyon meggyőző szöveggeneráló eszköz látszatára bízza magát, nem pedig valódi gondoskodásra.

A tanulmány alapüzenete nem az, hogy az AI haszontalan vagy veszélyes — hanem az, hogy a meggyőző erejű társalgási teljesítmény, legyen az bármilyen megnyugtató vagy érzelmileg ráhangoló, önmagában nem bizonyíték a tudatosság meglétére, és ezt a különbséget, amíg az AI egyre emberibbnek tűnik, egyre fontosabb tudatosan fejben tartani.

FORRÁS

(Nethuszár)