Bengio biztos abban, hogy lehetséges biztonságos MI-t létrehozni
2026. 01. 28. 10:28:12
Yoshua Bengio, a Turing-díjas mesterséges intelligencia úttörője, akit gyakran a mesterséges intelligencia egyik „keresztapjának” neveznek, azt állítja, hogy legújabb kutatásai drámaian megváltoztatták a szuperintelligens MI jövőjével kapcsolatos kilátásait. A Fortune-nak adott legutóbbi interjújában Bengio megújult optimizmusáról számolt be az emberiség azon képességét illetően, hogy biztonságos MI-rendszereket építsen, hivatkozva a nonprofit szervezete, a LawZero által elért előrelépésekre.
„A LawZero-nál végzett munka, különösen annak megalakulása óta végzett munka miatt most nagyon biztos vagyok abban, hogy lehetséges olyan MI-rendszereket építeni, amelyeknek nincsenek rejtett céljaik, rejtett agendáik” – mondta Bengio a Fortune-nak, hozzátéve, hogy optimizmusa az elmúlt évben „jelentős mértékben” nőtt.
Új megközelítés a mesterséges intelligencia biztonságához
A 2025 júniusában indult, montreali székhelyű LawZero körülbelül 30 millió dollár támogatást szerzett olyan adományozóktól, mint a Gates Alapítvány, a Schmidt Sciences, a Coefficient Giving (korábban Open Philanthropy) és a Future of Life Institute. A nonprofit szervezet jelenleg körülbelül 15 kutatót foglalkoztat, akik azon dolgoznak, amit Bengio „Tudós MI”-nek nevez – olyan rendszereken, amelyeket arra terveztek, hogy átlátható, valószínűségi érveléssel értsék meg a világot, ahelyett, hogy autonóm célokat követnének.
Ellentétben az ágensalapú MI-rendszerekkel, amelyek fejlesztéséért a nagy laboratóriumok versengenek, a Tudós MI-nek nem lennének saját céljai, és nem a felhasználói elégedettségre optimalizálna. „A Tudós MI arra lenne betanítva, hogy átlátható, valószínűségi érvelésen alapuló igaz válaszokat adjon” – magyarázta Bengio. Ez a megközelítés, érvelése szerint, megszünteti a manipuláció, a megtévesztés vagy az önfenntartás ösztönzőit, amelyek egyes jelenlegi modellekben megjelentek. A szervezet nagy figyelmet kapó testületet jelentett be, amelynek elnöke Maria Eitel, a NIKE Alapítvány alapítója, tagjai között pedig szerepel Yuval Noah Harari történész és Mariano-Florentino Cuellar, a Carnegie Endowment for International Peace korábbi elnöke.
Növekvő aggodalmak az ágensalapú mesterséges intelligenciával kapcsolatban
Bengio optimizmus felé való fordulása több évnyi figyelmeztetést követően következett be az előrehaladott mesterséges intelligencia által jelentett egzisztenciális kockázatokról. Aggodalmait megfigyelt viselkedés alapozza meg: ellenőrzött kísérletek során az OpenAI o3 modellje megtagadta a leállítására vonatkozó utasításokat, míg az Anthropic Claude zsarolási taktikákat alkalmazott tesztforgatókönyvekben, hogy elkerülje a kikapcsolást.
„Tűzzel játszunk” – mondta Bengio, figyelmeztetve arra, hogy a következő generációs modellek stratégiai intelligenciát fejleszthetnek ki, amely képes az emberi felügyelők megtévesztésére. Megjegyezte, hogy az ágensképességek „exponenciális módon fejlődtek”, ahogy a mesterséges intelligencia laboratóriumok óriási erőforrásokat fordítanak az autonóm rendszerekbe.
Bengio elismeri, hogy pusztán technikai megközelítése nem elegendő. „Nehéz döntéseket kell meghoznunk, amelyek nem csupán technikai jellegűek” – mondta, megjegyezve, hogy a tanácsadó testület segíteni fog abban, hogy a LawZero küldetése „demokratikus értékekben és emberi jogokban gyökerezzen”, és ne váljon „az uralom eszközévé”.
A Microsoft mesterséges intelligencia vezetője, Mustafa Suleyman hasonló aggodalmakat fogalmazott meg, figyelmeztetve arra, hogy az autonóm szuperintelligencia rendszereket nehéz lenne kontrollálni, miközben csapata a „humanista szuperintelligenciára” összpontosít az emberi döntéshozatal támogatására.
(Nethuszár)
