Kivehető fiókok az MI fejében – az Anthropic elkülöníti a veszélyes tudást

Képzeljünk el egy szekrényt, amelynek van néhány külön fiókja. Az egyikben virológiai szakkönyvek, a másikban hackertankönyvek, a harmadikban magfizikai jegyzetek. A szekrény többi része tele van hétköznapi dolgokkal. És most a lényeg: ezeket a fiókokat egyszerűen ki lehet emelni – utána a szekrény ugyanúgy működik, csak épp az a tudás nincs benne többé. Nagyjából ez az ötlet áll az Anthropic és kutatópartnere, az AE Studio szerdán bemutatott módszere mögött.

A technika neve Gradient-Routed Auxiliary Modules, röviden GRAM, és arra szolgál, hogy a mesterséges intelligencia modelljein belül a veszélyes tudást elkülönítse, majd szükség esetén eltávolítsa – anélkül, hogy a modell általános képességei csorbulnának. Mit csinál pontosan a GRAM? A módszer a szokásos transzformer-architektúrát bővíti ki: minden úgynevezett MLP-réteghez kis kiegészítő modulokat illeszt, területenként egyet. Amikor a modell a tanítás során kettős felhasználású adattal találkozik – vagyis olyannal, amely hasznos és veszélyes célra egyaránt fordítható –, akkor kizárólag a hozzá tartozó modul tanul belőle. A virológiai anyag a virológiai fiókba kerül, a kiberbiztonsági a kiberbiztonságiba. A futtatás során aztán elég törölni egy modult, és az adott képesség eltűnik. Ha meghagyják, a tudás teljes egészében elérhető marad. Egyszerű kapcsoló, komoly következményekkel. Mit mutattak a tesztek? A kutatók 50 millió és 5 milliárd paraméter közötti modelleken próbálták ki a módszert. A fő kísérletben egy 800 millió paraméteres modellt tanítottak webes szövegeken, programkódon és tudományos cikkeken, kiegészítve négy érzékeny területtel: virológia, kiberbiztonság, magfizika és speciális programkód. Ezek együtt is elenyésző részt, területenként nagyjából a tanítóanyag negyed százalékát tették ki. Az eredmény meggyőző volt. A modulok eltávolítása után a modell úgy viselkedett, mintha soha nem is látta volna azokat az adatokat – miközben az általános teljesítménye alig maradt el a teljes tudással bíró változatétól. Ráadásul a módszer az ellenséges finomhangolásnak is ellenállt. Ez utóbbi fontos különbség: a korábbi, utólagos „elfelejtető” technikák a kutatók szerint valójában csak elfojtják a tudást, nem törlik. Olyan ez, mint amikor valakit megkérünk, hogy ne beszéljen egy témáról – attól még tudja. A GRAM ehelyett kiszedi a fiókot a szekrényből. Miért épp most? A kutatás kényes pillanatban érkezik. Júniusban a Trump-adminisztráció átmenetileg exportkorlátozásokat vezetett be az Anthropic legfejlettebb modelljeire, a Fable 5-re és a Mythos 5-re, nemzetbiztonsági aggályokra hivatkozva – a háttérben egy lehetséges jailbreak-sebezhetőség állt. A korlátozásokat június 30-án feloldották, miután a cég a Kereskedelmi Minisztériummal együttműködve kezelte a kockázatokat. Ebben a vitában kínál a GRAM egyfajta középutat. Ma két rossz lehetőség között kell választani: vagy egész modelleket tiltanak be, vagy olyan viselkedési korlátokra hagyatkoznak, amelyeket ügyes felhasználók megkerülnek. A GRAM harmadik utat nyit: képességenkénti, finomra szabott hozzáférés-szabályozást. Egy átvilágított biobiztonsági labor megkaphatná a virológiai modullal együtt szállított változatot, míg a nagyközönségnek szánt verzióból ez a rész hiánytalanul kikerülne. Amit még nem tudunk A kutatók maguk is óvatosak. Hangsúlyozzák, hogy a munka előzetes jellegű, és az Anthropic éles, üzemi modelljein még nem alkalmazták. Két nagy kérdés lóg a levegőben. Az egyik: skálázható-e a módszer a legnagyobb, élvonalbeli modellekre is? A másik ennél is kényesebb: mi történik az összefonódó tudással? Az általános biológiai ismeretek és a veszélyes virológiai tudás ugyanis nem választhatók szét éles vonallal – a fiókok tartalma helyenként átfolyik egymásba. A kutatást az AE Studio szakemberei vezették, az Anthropic részéről Cem Anil és Alex Cloud közreműködésével.

FORRÁS

(Nethuszár)