Musk szerint a Groknak „erkölcsi alkotmányra” van szüksége a deepfake botrány közepette

Elon Musk xAI vállalata intenzív nemzetközi vizsgálat alá került, miután a Grok AI chatbottal szemben több országban vizsgálatokat indítottak, betiltották, és jogi lépéseket tettek, amiért a platform nőkről és gyermekekről beleegyezés nélküli szexualizált képeket generált. A válság arra késztette Muskot, hogy elismerje: a Groknak „erkölcsi alkotmányra” van szüksége – ez a nyilatkozat hetekig tartó, hatóságok, kormányok és áldozatok részéről érkező növekvő nyomás után hangzott el.

Szabályozási fellépés több kontinensen

Rob Bonta kaliforniai főügyész január 15-én felszólító levelet küldött az xAI-nak, amelyben követelte, hogy a vállalat azonnal állítsa le deepfake technológiával készült, beleegyezés nélküli intim képek és gyermekeket szexuálisan ábrázoló tartalmak létrehozását és terjesztését. „A sokasodó bejelentések, amelyek ilyen tartalmakról számolnak be – amelyek esetenként nőket és gyermekeket ábrázolnak szexuális tevékenység közben – megrázóak, és ahogyan hivatalom megállapította, potenciálisan törvénytelenek” – nyilatkozta Bonta. Hivatala még azon a héten formális vizsgálatot indított, amelynek keretében azt vizsgálják, hogy az xAI gyakorlata sérti-e a kaliforniai törvényeket.

A szabályozói válasz globális méreteket öltött. Malajzia és Indonézia január elején lett az első olyan nemzet, amely ideiglenesen betiltotta a Grokot, a chatbot „ismétlődő visszaélésszerű használatára” hivatkozva obszcén és beleegyezés nélküli képek létrehozása céljából. A brit médiafelügyeleti hatóság, az Ofcom január 12-én formális vizsgálatot indított, figyelmeztetéssel arra vonatkozóan, hogy az X akár a globális bevétel 10%-áig terjedő bírsággal vagy 18 millió fontos büntetéssel szembesülhet, amiért nem védi meg felhasználóit a törvénytelen tartalomtól. A Fülöp-szigetek január 15-én követte ezt azzal, hogy blokkolta a Grokhoz való hozzáférést, a tisztviselők pedig kijelentették, hogy azt szeretnék, ha a platform „megszüntetné az alkalmazás azon képességét, hogy pornográf tartalmakat, különösen gyermekpornográfiát generáljon”.

További vizsgálatokat indítottak Franciaországban, Indiában, Kanadában, valamint az Európai Bizottság a digitális szolgáltatásokról szóló törvénye alapján. Ursula von der Leyen, az Európai Bizottság elnöke elítélte a technológiát, kijelentve: „Felháborító, hogy egy technológiai platform lehetővé teszi a felhasználók számára, hogy digitálisan levetkőztessék a nőket és gyermekeket online”.

Musk gyermekének anyja pert indított mesterséges intelligencia által készített hamis képek miatt

Ashley St. Clair, egy 27 éves konzervatív influenszer és Musk egyik gyermekének anyja, 2025. január 15-én pert indított az xAI ellen a New York-i Állami Legfelsőbb Bíróságon. A panasz szerint a Grok „számtalan szexuálisan visszaélő, intim és megalázó deepfake tartalmat” generált róla, beleértve egy olyan képet, amelyet egy 14 éves korában készült fotójából manipuláltak, valamint egy másikat, amelyen horogkeresztekkel borított bikiniben látható.

St. Clair ügyvédje, Carrie Goldberg elmondta, hogy a per célja „a Grok felelősségre vonása és egyértelmű jogi határok meghatározása a teljes köz érdekében, hogy megakadályozzuk, hogy a mesterséges intelligenciát visszaélésre használják fel”. Válaszul az xAI ellenkeresetet nyújtott be a texasi szövetségi bíróságon, azt állítva, hogy St. Clair megsértette a felhasználói szerződését azáltal, hogy nem Texasban indította a pert, és 75 000 dollárt meghaladó kártérítést követel. A cég tömör válasza a média megkeresésére így hangzott: „A hagyományos média hazudik”.

Biztonsági intézkedések a figyelem középpontjában

Január 15-én az xAI bejelentette azokat a korlátozásokat, amelyek megtiltják a Grok számára valós emberek képeinek kényes ruházatban való szerkesztését, és a képgeneráló funkciókat csak fizető előfizetők számára teszik elérhetővé. A The Guardian szerint azonban újságírók még mindig képesek voltak olyan rövid videókat készíteni, amelyeken nők vetkőznek a különálló Grok weboldalon – napokkal azután, hogy a korlátozásokat bejelentették. Több médiaorgánum tesztjei szerint a biztonsági intézkedések egy percen belül megkerülhetők voltak.

Január 18-án Musk az X-en azt írta, hogy „a Groknak erkölcsi alkotmánnyal kellene rendelkeznie”, ami vitát váltott ki arról, hogy ki határozná meg az ilyen etikai határokat. A kritikusok előre láthatónak minősítették a problémákat, a The Verge szerint a válság „Musk AI-val kapcsolatos FOMO-jával és a politikai korrektség iránti gyűlöletével kezdődött”, megjegyezve, hogy a Grok csupán hónapokig tartó tanítást és két hónapig tartó tesztelést kapott a megjelenés előtt.

Musk továbbra is fenntartja, hogy „nem tud arról, hogy a Grok kiskorúakról meztelen képeket generált volna”, és a szabálysértéseket inkább a cenzúra megkerülésére törekvő felhasználóknak tulajdonítja, mintsem rendszerszintű hibáknak. De miközben a nyomozók több joghatóságban gyűjtenek bizonyítékokat, az xAI előtt álló kérdés már nem az, hogy ezek a rendszerek okozhatnak-e kárt, hanem hogy milyen gyorsan tudja a cég bizonyítani, hogy nagy léptékben meg tudja akadályozni a kárt.

FORRÁS

(Nethuszár)