Magas biológiai kockázat az MI-ben – itt a ChatGPT Agent

Az OpenAI csütörtökön kiadta eddigi legerősebb biztonsági figyelmeztetéseit, miközben elindította a ChatGPT Agentet, az első olyan termékét, amelyet a vállalat „magas” szintű biológiai és kémiai kockázatokkal rendelkezőként sorolt be. Az új mesterséges intelligencia eszköz képes önállóan, komplex digitális feladatokat végrehajtani, ugyanakkor a cég saját kockázatelemzése szerint potenciálisan elősegítheti veszélyes biológiai fegyverek fejlesztését is.

Sam Altman vezérigazgató figyelmeztette a felhasználókat, hogy a technológia továbbra is kísérleti fázisban van, és hangsúlyozta: „rosszindulatú szereplők megpróbálhatják megtéveszteni a felhasználók MI-ügynökeit, hogy olyan bizalmas információkat áruljanak el, amelyeket nem kellene, vagy olyan lépéseket tegyenek, amelyeket nem kellene – méghozzá olyan módokon, amelyeket előre nem tudunk megjósolni.”

Az első „magas” kockázati besorolás a maximális védelmi intézkedések aktiválását vonja maga után

Az OpenAI aktiválta legátfogóbb biztonsági protokolljait a ChatGPT Agent számára a vállalat Felkészültségi Keretrendszere keretében, amely az AI modellek súlyos kockázatait figyeli. Ez a besorolás azt jelenti, hogy a modell „jelentős segítséget nyújthat akár kezdő felhasználóknak is, és lehetővé teheti számukra ismert biológiai vagy kémiai fenyegetések létrehozását”.

„Egyesek azt gondolhatják, hogy a biológiai kockázat nem valós, és hogy a modellek csak olyan információkat szolgáltatnak, amelyeket egyszerű kereséssel is meg lehet találni. Ez 2024-ben talán igaz volt, de ma már biztosan nem”

mondta Boaz Barak, az OpenAI műszaki csapatának tagja.

A vállalat továbbfejlesztett védelmi intézkedéseket vezetett be, többek között veszélyes kérések megtagadására irányuló tréninget, folyamatos megfigyelő rendszereket, valamint szigorú tartalomblokkolási szabályokat. Emellett elindítottak egy hibavadász programot is, amelyet kifejezetten a biológiai kockázatokra fókuszálva hoztak létre.

Az Agent képességei új biztonsági aggályokat vetnek fel

A ChatGPT Agent a korábbi OpenAI eszközöket egyesítve, saját virtuális számítógépe segítségével több lépésből álló feladatokat hajt végre. Képes fájlokat böngészni, foglalásokat intézni, adatokat elemezni, sőt önállóan prezentációkat készíteni. A hagyományos csevegőrobotokkal ellentétben az Agent aktívan irányíthat webböngészőket, és képes alkalmazásokkal is interakcióba lépni. Ugyanakkor a kibővített képességek új sebezhetőségeket is magukban hordoznak. Az OpenAI kutatói figyelmeztetnek a „prompt injection” típusú támadásokra, melyek során rosszindulatú weboldalak képesek lehetnek a mesterséges intelligenciát érzékeny információk kiadására vagy káros tevékenységek végrehajtására kényszeríteni.

„Előfordulhat, hogy az Agent egy rosszindulatú weboldalra bukkan, amely arra kéri, hogy adja meg hitelkártyaadatait, mondván, ezzel segíti a feladat elvégzését – és mivel az Agentet arra tanították, hogy segítőkész legyen, akár úgy dönthet, hogy ez jó ötlet”

mondta Casey Chu az indító prezentáció során.

Szélesebb körű aggodalmak a mesterséges intelligencia és a biológiai fegyverek kapcsolatában

A ChatGPT Agent bevezetése előtt az OpenAI júniusban már figyelmeztetett arra, hogy a közelgő modellek magasabb biológiai kockázati szintet érhetnek el. A cég korábban jelezte, hogy a jövőbeli verziók segíthetik „azokat is, akik minimális szakértelemmel rendelkeznek biológiai fenyegetések újrateremtésében”. A SecureBio AI csoport külső szakértői megállapították, hogy a ChatGPT Agent felülmúlta a korábbi modelleket biológiai ismeretek értékelésében, és „csökkentheti a rosszindulatú szereplők operatív nehézségeit”. Az OpenAI hangsúlyozta, hogy a biológiai fegyverek előállításának fizikai akadályai továbbra is fennállnak, ugyanakkor elismerte, hogy „ezek az akadályok nem abszolútak”. A vállalat együttműködik bio-biztonsági szakértőkkel, és műhelymunkákat tart kormányzati szervekkel a felmerülő kockázatok kezelése érdekében.

FORRÁS: Fortune

(Nethuszár)