MI-párbeszédek szivárogtak ki az internetre

Sokan gondolják úgy, hogy egy mesterséges intelligenciával folytatott beszélgetés valahol a magánszféránk biztonságos zugában marad, pedig ez korántsem mindig van így. Július 21-én David Konitzny SEO-szakértő egy olyan felfedezést tett, amely alaposan felkavarta az AI-közösséget: kiderült, hogy a Google rendszeresen indexeli a DeepSeek nevű kínai mesterségesintelligencia-platform felhasználói által nyilvánosan megosztott csevegéseit. Ennek eredményeként bárki, aki csak egy kicsit is ért a keresőmotorok használatához, könnyedén rábukkanhat idegenek munkahelyi dokumentumaira, pénzügyi adataira, sőt akár teljesen személyes jellegű kérdéseire is.

Konitzny egy LinkedIn-bejegyzésben osztotta meg tapasztalatait, és elmondása szerint teljesen véletlenül botlott bele a jelenségbe. Ő maga is úgy fogalmazott, hogy olyasmibe futott bele, amiről azt hitte, hogy már régen megoldották – vagyis hogy az AI-csevegések indexelése egy már lezárt probléma. Ehhez képest kiderült, hogy néhány egyszerű Google-keresési kifejezéssel szinte bárki elő tud hívni teljes párbeszédeket a DeepSeek és a felhasználói között. Ezekben a beszélgetésekben nemcsak a feltett kérdések és az AI válaszai jelennek meg, hanem sok esetben a feltöltött dokumentumok címei is, amelyek önmagukban is sokat elárulhatnak valakinek a munkájáról vagy magánéletéről.

A háttérben a DeepSeek egyik funkciója áll, amelyet „Megosztott Beszélgetések” néven ismerhetünk. Ez lehetővé teszi, hogy a felhasználók egy nyilvános linket hozzanak létre a csevegésükről, amit aztán megoszthatnak másokkal, például kollégákkal vagy barátokkal. A biztonsági szempontból megnyugtató hír az, hogy az MWS AI kiberbiztonsági cég megvizsgálta az esetet, és megerősítette: nem történt sem adatszivárgás, sem feltörés a szó hagyományos értelmében. Egyszerűen azok a beszélgetések váltak láthatóvá, amelyeket maguk a felhasználók osztottak meg nyilvánosan, csak éppen ők valószínűleg nem gondoltak bele, hogy ezek a linkek egy idő után megjelenhetnek a Google találatai között is. Az elemzők szerint egyébként az indexelt tartalmak nagy része már közel egy éves, tehát nem egy friss, most keletkező problémáról van szó, hanem egy hosszabb ideje halmozódó jelenségről.

A DeepSeek valójában nem hallgatja el a felhasználók elől a kockázatokat, hiszen a megosztott link létrehozása előtt figyelmeztetést jelenít meg, amely arra kéri az embereket, hogy távolítsák el a bizalmas adatokat, mielőtt nyilvánossá tennék a beszélgetést. Fontos részlet, hogy a csatolt fájlokat magukat nem lehet letölteni ezeken a linkeken keresztül, ami legalább egy bizonyos védelmi szintet biztosít. Ugyanakkor van egy komoly hiányosság: nincs egy központi felület, ahol a felhasználók áttekinthetnék, mely beszélgetéseiket osztották meg korábban. Emiatt nagyon könnyen megeshet, hogy valaki hónapokkal vagy akár évekkel később is elfelejti, hogy egy adott csevegést valaha nyilvánossá tett, miközben az azóta is ott lapul a keresőmotorok mélyén, bárki számára elérhetően.

Konitzny elemzésében arra is kitért, hogy ez a probléma korántsem egyedi. Tavaly több olyan incidens is volt, amelyek során különböző LLM-szolgáltatók csevegési beszélgetései véletlenül keresőmotorok számára is elérhetővé váltak. Érdekes összehasonlításként szolgál az orosz Yandex kereső esete, amely a saját, „Alisa AI” nevű asszisztenséhez kapcsolódó megosztott linkeket eleve kizárja az indexelésből, sőt ezek a linkek mindössze 14 nap elteltével automatikusan lejárnak. Ez a megoldás jóval biztonságosabbnak tűnik, hiszen jelentősen csökkenti annak esélyét, hogy egy régi, elfeledett beszélgetés váratlanul felbukkanjon valakinek a keresési találatai között.

Ez a felfedezés nem csupán egy technikai hibáról szól, hanem rávilágít egy sokkal mélyebb, rendszerszintű problémára is a DeepSeek adatkezelési gyakorlatával kapcsolatban. Bár a felhasználók törölhetik az eredeti beszélgetésüket, amivel a megosztott hivatkozás is érvénytelenné válik, a platform mégsem kínál egyszerű, egyetlen kattintással elérhető visszavonási lehetőséget azok számára, akik esetleg csak utólag ébrednek rá, hogy mit is tettek közzé. Konitzny szavaival élve talán itt az ideje, hogy átalakítsuk azt a kérdést, amit leggyakrabban felteszünk a mesterséges intelligenciával kapcsolatban. Ahogy ő fogalmazott: „Rengeteg időt töltünk azzal, hogy megkérdezzük: ‘Mennyire erős az AI-modell?’ De talán egy másik kérdést kellene feltennünk: ‘Mennyire biztonságos minden, ami köré épül?'”

Ez a mondat talán a legfontosabb tanulsága az egész történetnek. Miközben lenyűgözve figyeljük, hogy a mesterséges intelligencia milyen gyorsan fejlődik, és milyen egyre lenyűgözőbb dolgokra képes, könnyen megfeledkezünk arról, hogy az ezt körülvevő infrastruktúra – vagyis az adatvédelem, a hozzáférés-kezelés és az átláthatóság – nem mindig tart lépést ezzel a tempóval. Aki tehát rendszeresen használ AI-csevegőrobotokat, és időnként megosztja a beszélgetéseit másokkal, annak érdemes kétszer is meggondolnia, milyen adatokat enged bele ezekbe a párbeszédekbe – hiszen, amint ez az eset is megmutatta, egy elfeledett link akár évekkel később is előbukkanhat a nyilvánosság előtt.

FORRÁS

(Nethuszár)