Megbízhatóbb-e a gép az embernél, ha a gépet felügyelni kell?

Eric Brandwine, az Amazon Security alelnöke és kiemelkedő mérnöke a múlt héten nyilvánosan megkérdőjelezte azt az elvet, amelyet az AI-biztonság területén sokan alapigazságként kezelnek: azt, hogy az ember közbeavatkozása — vagyis az, hogy minden fontosabb döntést egy embernek jóvá kell hagynia — a mesterséges intelligencia rendszerek felügyeletének legjobb és legmegbízhatóbb módja, és amellett érvelt, hogy ez az elképzelés valójában túlbecsüli az ember szerepét, és nem veszi figyelembe az emberi döntéshozatal egy alapvető gyengeségét.

Brandwine érvelésének középpontjában egy egyszerű, de kellemetlenül igaz megfigyelés áll: az emberek következetlen döntéshozók, vagyis ugyanabban a helyzetben, ugyanazokkal az információkkal más és más döntést hoznak attól függően, hogy éppen mennyire fáradtak, mennyire figyelnek, vagy éppen mi foglalkoztatja őket — és ez azt jelenti, hogy ha egy AI-rendszer minden egyes lépéséhez emberi jóváhagyást kell kérni, akkor a felügyelet minősége nem állandó, hanem folyamatosan ingadozik az éppen ügyeletes ember pillanatnyi állapotától függően, ami önmagában is kockázatot jelent. Az Amazon ezért egy olyan megközelítés mellett döntött, amelyet „végponttól végpontig tartó elszámoltathatóságnak” neveznek: az AI-ügynökök önálló, nyomon követhető identitást kapnak, minden tevékenységüket a nevükben rögzítik, és az emberi felelősségi viszonyokat a teljes munkafolyamat során megőrzik, de nem az emberi jóváhagyás pillanata az egyetlen biztonsági kapu — hanem maga az infrastruktúra, vagyis a rendszer mélyebb rétegei döntenek arról, hogy egy adott műveletet szabad-e egyáltalán elvégezni.

Hogyan működik ez a gyakorlatban?

Gee Rittenhouse, az Amazon biztonsági szolgáltatásokért felelős alelnöke egy korábbi nyilatkozatában úgy magyarázta el a rendszer logikáját, hogy „az infrastruktúra rétegén értékeli, hogy az ügynök megteheti-e ezt, még mielőtt megteszi — és ha nem, akkor nem hajthatja végre a parancsot, függetlenül attól, mi az”, ami azt jelenti, hogy még akkor sem tud káros műveletet végrehajtani az AI, ha valamilyen okból tévesen működik, belső hibát produkál — az úgynevezett hallucinációt — vagy esetleg egy rosszindulatú szereplő megpróbálja manipulálni. A technikai részletek közül a laikus olvasó számára talán a legfontosabb az, hogy az Amazon rendszere nyomon követi, hogy az AI-ügynök éppen kinek a nevében jár el és mihez próbál hozzáférni, és ezeket az engedélyeket nem egyszer és mindenkorra rögzíti, hanem dinamikusan, a helyzettől függően értékeli ki — az emberi beavatkozást igénylő döntési pontokat pedig csak akkor aktiválja, ha a rendszer azt észleli, hogy a kockázat meghaladott egy bizonyos küszöbértéket, nem pedig minden egyes lépésnél alapértelmezetten.

Az Amazon saját történetéből is kiderül, hogy az AI-felügyelet kérdése korántsem megoldott, még a legfejlettebb technológiai vállalatoknál sem: márciusban egy elavult belső útmutatókat követő AI-ügynök hozzájárult az Amazon kiskereskedelmi weboldalának leállásához, ami arra kényszerítette a vállalatot, hogy „kontrollált akadályokat” vezessen be a magas kockázatú telepítéseknél — vagyis éppen az a cég tanult a saját kárán, amelynek alelnöke most az emberi felügyelet korlátairól beszél.

Az iparági adatok is azt mutatják, hogy a kérdés messze nem csak az Amazont foglalkoztatja: egy idei Gartner-felmérés szerint a szervezetek negyven százaléka fontolgatja, hogy leváltja vagy kivon AI-ügynökeit az irányítással kapcsolatos kihívások miatt, ami azt jelzi, hogy a vállalatok széles köre szembesül azzal a problémával, hogy az egyre önállóbb AI-rendszereket hogyan lehet úgy működtetni, hogy megbízzunk bennük, de ne bízzunk rájuk mindent feltétel nélkül.

Az Amazon válasza erre a dilemmára egyértelmű: az irányítási mechanizmusokat nem az emberi jóváhagyás pillanatára kell bízni, hanem magába az infrastruktúrába kell beépíteni, és az emberi felügyeletet az egyik lehetséges eszközként kell kezelni — nem pedig alapértelmezett, mindenre kiterjedő megoldásként —, ami egy merész álláspont egy olyan korban, amelyben az AI-rendszerek egyre több és egyre fontosabb döntést hoznak önállóan, és amelyben még nincs konszenzus arról, hogy az ember mikor kell a rendszerben maradjon, és mikor bízhatja a gépre azt, amit korábban csak ember végezhetett.

FORRÁS

(Nethuszár)