Bevezetés – a „link”, amit az MI elém tett

Egy nap megkérdeztem egy munkahelyi MI-t, hogyan kell használni egy szállító által biztosított eszközt. Nem egy közismert OSS-ről vagy pezsgő közösséggel bíró kereskedelmi termékről volt szó, de némi információ fellelhető róla a neten.

Az MI tökéletes megoldást adott, sőt „hivatkozásként” még egy linket is mellékelt.

A link gond nélkül megnyílt. Az oldalon valóban ott volt, amit tudni akartam, a címsorban viszont ez állt:

„Bizalmas – Tilos külső féllel megosztani.”

Hoppá. Vajon kinek a belső dokumentuma ez? Közelebbről megnézve kiderült, hogy sem nem a miénk, sem nem a gyártó hivatalos anyaga, hanem egy másik, ugyanezt az eszközt használó cég belső kézikönyve lehetett.

Szerencsém volt?

…

Dehogy. Inkább jeges rémület futott át rajtam.

Ha az MI-t kihagyva a megfelelő kulcsszavakra keres rá az ember, valóban előkerül a találat. Csakhogy a találati lista sokadik oldalán, olyan mélyen, ahová normál kereséssel aligha jutna el bárki.

I. rész: Az MI által hozott „demokratizálás”

A hagyományos, robot alapú keresőkben a felhasználó homokhegyből próbál aranyrögöt bányászni. A szolgáltatók persze igyekeznek a releváns oldalakat feljebb rangsorolni, de vannak határok: a nagy oldalak uralják a találati lista elejét, míg az apró, ám fontos részletek gyakran eldugva maradnak.

Az MI ezzel szemben maga nyújtja át az aranyrögöt – akár egy rosszul rangsorolt oldalról is, ha illeszkedik a kérdéshez.

  • Az az információ is azonnal előkerül, amiért egy ember akár fél órát kutatna, vagy amit már fel is adott.
  • Olyanok is hozzáférhetnek szakmai tudáshoz, akiknek korábban esélyük sem volt rá.

Ez kétségtelenül az információhozzáférés demokratizálása. Ahogyan az internet korábban, úgy most az MI szakítja ki a tudást az elit vagy a szakértők kizárólagos birtokából, és teszi széles körben elérhetővé.

Oktatásban és kutatásban is látványos a hatás. Amihez régen szakfolyóiratokat vagy konferenciaanyagokat kellett böngészni, azt ma diákok és dolgozók pillanatok alatt előhívhatják. Startupok alakíthatnak stratégiát drága tanácsadók nélkül, magánszemélyek pedig akár egyetlen éjszaka alatt írhatnak egy alkalmazást.

A közzététel ugyanígy működik. Az internet mindenki számára lehetőséget adott, hogy világszerte megszólaljon, ám ha valaki ismeretlen, a mondandóját kevéssé fedezik fel.

Most viszont? Az MI elképesztően alacsony keresési rangú, vélhetően véletlenül publikussá tett és SEO nélkül hagyott oldalakat is azonnal előhozott, mert tökéletesen illett a kérdésemhez.

Joggal mondhatjuk, hogy a keresett információk előállítása és megtalálása az internetnél is radikálisabban vált demokratikussá.

II. rész: A demokratizálás árnyéka – a „leleplezés”

Ám ez a demokratizálás egyben leleplezés is – erre a saját élményem is rávilágított.

Az adott cég anyaga feltehetően rossz beállítás miatt volt nyilvánosan elérhető. Hagyományos keresővel is meg lehetett találni, hiszen teljesen nyitott volt, és a keresőmotor indexelte.

Csakhogy MI nélkül jó eséllyel senki sem botlott volna bele. Kevesen vannak, akik a találati lista húszadik oldaláig egyesével végigkattintgatnak mindent.

Ami eddig belefért a „majdnem baj volt, de nem vette észre senki, szóval megúsztuk” kategóriába, az az MI miatt azonnal eljut a keresőkhöz – méghozzá gyorsan és pontosan.

Ebben az esetben csak egy eszközhasználati leírásról volt szó (nem valami államtitokról), és a kérdésem sem rossz szándékból fakadt, így nem történt kár…

De mi lenne, ha szándékosan rosszra fordulna a helyzet?

Elég, ha valaki véletlenül publikál érzékeny adatokat. Ami korábban a nehézkes kereshetőség vagy a bonyolult összefésülés miatt de facto rejtve maradhatott, az mostantól biztosan felszínre kerül.

Az MI korában nem létezhet a „mert el van ásva, ezért biztonságban van” illúzió. Ha valami indexbe kerül, a kereső azonnal megtalálja, aki pedig vadászik rá, kézhez kapja.

A nagy szolgáltatók – például a ChatGPT – természetesen beépítenek szabályokat és szűrőket a rosszindulatú kérések visszautasítására, és ezt tovább is erősítik majd. De mi történik, ha valaki magának állít össze egy szűrő nélküli MI-t?

Emlékezzünk a Winny-ügyre: amikor kiszivárgott a japán Önvédelmi Erők belső anyaga, vállalati ügyfél-listák, sőt magánfotók és videók is, országos botrány robbant ki. A cégek akkoriban még nyilatkozatokat is aláírattak az alkalmazottakkal, hogy ne használják Winnyt – pedig maga a Winny csak egy P2P fájlmegosztó volt, önmagában nem is bűnös.

A generatív MI pontos válaszai viszont ennek a sokszorosát tudják okozni. Elég egyszer hibázni, és minden azonnal a rossz kezekbe kerülhet – vírus sem kell hozzá.

Az MI gondolkodás nélkül ad választ. Nincs benne erkölcs, felelősségérzet. (A nagy modellek hezitálnak, ha beépített szabályzatuk tiltja, de ma már bárki építhet cenzúrázatlan modellt – elég felmenni a Hugging Face-re.)

Az MI korában nem létezik a „mert eldugva van, ezért biztonságos” fogalma.

Ráadásul a leleplezés nem egyszeri. Ha egy információ kikerül és bekerül a tanítóanyagba, összegződik, majd mások is megkapják – az információ egyszerre terjed és rögzül. Könnyen lehet, hogy mire bárki észbe kapna, az adat már félig-meddig örökre beíródott az MI memóriájába.

III. rész: A sebesség aszimmetriája

A probléma egyik gyökere a sebességbeli aszimmetria.

  • Az MI elképesztő gyorsasággal gyűjti össze, optimalizálja és juttatja célba az információt – különösen akkor, ha valaki pontosan azt keresi.
  • A társadalom törvényei, szabályai, etikai keretei, az intézkedések és a személyes tudatosság viszont legjobb esetben is évek alatt változnak.

Ez az aszimmetria teszi igazán ijesztővé a helyzetet.

A hírterjedés korábban lépésenként gyorsult: előbb újság, aztán tévé, majd keresőmotorok. Mindegyiknél volt némi súrlódás, késleltetés, ami időt adott a társadalomnak a reagálásra. Az MI viszont majdnem nullára csökkenti a súrlódást: azonnal, tökéletes pontossággal szállítja „a helyes választ” bárhonnan, bárkinek.

Így a helyes tudás, a téves pletyka és a véletlenül kiszivárgott kényes információ ugyanazzal a lendülettel terjed. A szakértő tudományos cikkének súlya és egy névtelen fórum tévedése hamarosan egyenrangúan jelenhet meg az MI válaszaiban. Ez a jövő már elkezdődött.

IV. rész: Kié a felelősség?

Ebben az esetben én megnyitottam a linket. Nem számít illetéktelen hozzáférésnek: keresőből is elérhető volt, semmilyen azonosítást nem kellett feltörni.

A gond az, hogy az MI rám hagyta a döntést, hogy szabad-e belenézni, vagy – másik oldalról – fel sem merült, hogy valakinek engedélyeznie kellene a betekintést.

Az MI válaszol, de nem mérlegeli, hogy szabad-e választ adnia. Ahogy egy korábbi cikkben is írtam: nincs benne tartás, meggyőződés, felelősségérzet. Ezt nekünk, embereknek kell pótolnunk.

Biztos, ami biztos, felkerestem az adott cég honlapjának főoldalát, és elküldtem egy figyelmeztető e-mailt az ott talált kapcsolati címre.

Nem akarom magamat dicsérni, de az MI felelőtlenségét az emberi felelősségérzet, lelkiismeret és félelem ellensúlyozta.

Az olvasó nyilván sejti: nem mindenki lépne ugyanígy. Biztosan lesz, aki továbbterjeszti a talált információt, és olyan is, aki akaratlanul tanítóanyagként eteti meg vele az MI-t.

Tudtommal egyelőre nem lett belőle országos botrány, mint a Winny-vírus idején, de érzésem szerint előbb-utóbb felszínre tör ez a kérdés.

Összegzés – felelősségtervezés az MI-korban

Az MI a tudás elérését és megosztását is az internetnél is erőteljesebben demokratizálja.

Ugyanakkor a másik oldalon akaratlan leleplezéseket idéz elő, és lehetővé teszi, hogy a rosszindulatú fél „gyorsan és pontosan” jusson hozzá.

A félelem forrása az, hogy megszűnt a „rosszul állítottam be, de nem találja meg senki, szóval megúsztam” korszaka. Mostantól a „rosszul állítottam be, indexelte a kereső, és azonnal célba ér a rossz kezekben” korszakban élünk.

Nem kell, hogy hibás beállítás legyen: elég, ha valaha ártalmatlannak hitt információkat valaki összekapcsol, és máris kirajzolódik egy ember személyes profilja.

Jártam is egy kísérletet: a blog összes cikkét beolvastattam a ChatGPT-vel, és meglepően pontos profilt állított össze rólam – érzésem szerint nagyjából 60%-os pontossággal. Munkahelyet vagy a pontos életkort (nagyjából sikerült belőnie) nem találta el, voltak tévedések, de a benyomás aggasztó volt.

(A stilometriai kutatások szerint néhány tucat sor alapján is azonosítható a szerző.)

Más célpont esetén könnyen lehet, hogy telitalálat születik. Ártalmatlannak tűnő információhalmazok összekapcsolásával meglepően részletes valóság rajzolható ki.

(Az OSINT – Open Source Intelligence, vagyis nyílt forrású információgyűjtés – így még könnyebb és hatékonyabb lehet, bárki, bárki ellen bevetheti, akár egy zaklató is.)

A jövő feladata nem pusztán a klasszikus biztonság megerősítése. Hanem az, hogy az MI-kor felelősség- és biztonságtervezését dolgozzuk ki – olyan szabályokat és intézkedéseket, amelyek lépést tartanak az információ demokratizálásának sebességével.

Az MI közelebb hozta a tudást, mint valaha. De közben végképp ledőlt a „nem találják meg, úgyhogy biztos jó így” mítosza.

Őszintén szólva ma még nincs kész válaszom. Az viszont biztos, hogy amikor az MI feloldja az információs határokat, nekünk új szemléletre van szükségünk az információkezelésben.

Mostantól mindenkinek együtt kell élnie a demokratizálás és a leleplezés két oldalával.