Úvod – „odkaz“, který přinesla AI

Jednoho dne jsem se v práci ptal jednoho firemního AI asistenta, jak používat nástroj od určitého dodavatele. Nešlo o software s masivní komunitou ani o známý OSS – informací na internetu bylo jen poskrovnu. AI ale trefila řešení naprosto přesně a jako „referenci“ připojila odkaz.

Klikl jsem na něj a stránka se bez problémů otevřela. Informace, které jsem potřeboval, na ní opravdu byly, ale nadpis zněl:

„社外秘 非公開“ (Tajné, neveřejné).

Cože? Z které firemní dokumentace to je? Po chvíli jsem zjistil, že nejde ani o náš interní dokument, ani o oficiální materiál dodavatele. Nejspíš to byl interní manuál jiné firmy, která používá stejný nástroj.

Tohle není důvod k radosti, ale spíš mrazivý moment.

Stránka sice byla indexovaná a po zadání správných klíčových slov by se dala vyhledat, ale kdesi na desítkách stránek výsledků. Běžným hledáním by na ni prakticky nikdo nenarazil.

První část: „Demokratizace“, kterou AI přináší

Klasické robotické vyhledávače fungují tak, že člověk lopotně hledá zrníčka zlata v obří hromadě písku. Firmy se samozřejmě snaží stavět algoritmy tak, aby relevantní stránky zobrazovaly nahoře. Přesto má tento přístup limity: velké portály dominují výsledkům a důležité informace na nižších pozicích je často těžké najít. AI oproti tomu umí předat samotné „zrníčko zlata“ – i když je ukryté na nepříliš navštěvovaném webu.

  • I informace, které by člověk hledal desítky minut nebo to úplně vzdal, AI dokáže při vhodném dotazu zobrazit během okamžiku.
  • Lidé, kteří dříve neměli přístup k odborným znalostem, se najednou mohou dostat ke správným odpovědím.

To je bez pochyb demokratizace přístupu k informacím. Stejně jako internet zbavil znalosti výlučnosti elit, AI posouvá dostupnost ještě o úroveň dál.

Ve vzdělávání a výzkumu je tento efekt obzvlášť viditelný. Studenti i profesionálové si během chvilky vyhledají poznatky, které dříve vyžadovaly studium odborných knih nebo placených databází. Startupy dokážou plánovat strategii bez drahých konzultantů a jednotlivci postaví vlastní aplikaci za jednu noc.

Totéž platí pro publikování informací. Internet sice dal každému možnost promluvit k celému světu, ale pokud jste nebyli známí, vaše sdělení se stejně obtížně hledalo.

A teď? AI během sekundy našla informace z extrémně nízko hodnocené stránky, pravděpodobně omylem zveřejněné a bez jakékoli SEO optimalizace. Proč? Protože odpovídaly na mou otázku naprosto přesně. Lze tedy říci, že dostupnost informací pro ty, kdo je potřebují, dosáhla s AI míry, jakou internet sám o sobě nenabízel.

Druhá část: „Odhalování“ coby druhá strana demokratizace

Zároveň jsem si díky této zkušenosti bolestivě uvědomil, že demokratizace má i druhou stránku – odhalování.

Informace té firmy byla zveřejněna omylem. Ano, i tradiční vyhledávače ji mohly najít, protože byla volně dostupná a indexovaná. Bez AI by ji však zřejmě nikdo nenašel – málokdo prochází dvacátou stránku výsledků. Co by dříve prošlo jako „naštěstí si toho nikdo nevšiml“, se díky AI okamžitě dostane k tomu, kdo odpověď hledá.

V mém případě šlo jen o návod k používání nástroje, tedy ne příliš citlivá data, a dotaz nebyl veden zlým úmyslem. Představme si ale, že by tímto způsobem unikly skutečně citlivé informace. Takzvané „de facto utajení“, kdy se spoléháme na to, že něco je těžké najít nebo ověřit, v éře AI přestává fungovat.

„Je to zakopané dost hluboko, takže je to v bezpečí“ – to už v době AI neplatí. Jakmile je něco indexované, ten, kdo to chce vidět, se to dozví.

Je pravda, že velcí poskytovatelé typu ChatGPT implementují filtry a bezpečnostní politiku, takže na škodlivé dotazy neodpoví. Ale co model, který si bez jakékoli politiky postaví jednotlivec?

Vzpomínám si na kauzu „Winny“ a počítačové viry, které tehdy odhalovaly vše od armádních dokumentů až po osobní fotografie. Firmy dokonce vyžadovaly, aby zaměstnanci slibovali, že Winny nebudou používat – i když samotný program byl jen P2P klient.

Oproti tomu může generativní AI způsobit škody ještě rychleji. Jakmile se informace dostane do potenciálně veřejného prostředí, může skončit v rukou útočníka během okamžiku. Netřeba žádný virus – stačí jediná chyba.

AI bez zaváhání vydá „odpověď“, pokud se jí někdo zeptá. Nemá svědomí ani odpovědnost. (Ano, modely s politikami se zdráhají, ale kdokoli si dnes může natrénovat neomezovanou variantu – na Hugging Face najdete necenzurované modely běžně.)

V době AI už neplatí „je to schované, takže dobrý“.

Navíc odhalení není jednorázové. Jakmile se informace dostane do tréninkových dat, model ji shrne, zopakuje a předá dalším lidem. Únik se může tiše šířit a informace kolovat prakticky navždy.

Třetí část: Asymetrie rychlosti

Dalším problémem je asymetrie rychlosti.

  • AI dokáže sbírat informace a předávat optimální odpovědi nesrovnatelně rychleji než člověk.
  • Právní rámce, regulace, etické normy nebo změna lidského chování se i v nejlepším případě vyvíjejí v horizontu let.

Tato asymetrie dělá situaci děsivější.

Šíření informací se v historii vyvíjelo přes noviny, televizi a vyhledávače. Vždy existovalo určité zpoždění, během něhož mohla společnost upravit pravidla. AI ale prakticky eliminuje tření a okamžitě distribu je „nejlepší odpověď“ po celém světě.

Výsledek? Správné poznatky, falešné fámy i nepříjemné tajemství se šíří stejnou rychlostí. Odborný článek a omylem zveřejněné citlivé informace z anonymního fóra mohou v ústech AI znít stejně přesvědčivě.

Čtvrtá část: Kde leží odpovědnost?

V tomto případě jsem na odkaz klikl. Nešlo o neoprávněný přístup – stránka byla volně dostupná a neobcházel jsem žádné ověřování. Problém je v tom, že rozhodnutí „smím se na to dívat?“ je kompletně přenecháno člověku. Stejně tak nikdo nekontroloval, zda je v pořádku tyto informace zobrazit.

AI poskytne odpověď, ale nevyhodnotí, zda ji poskytnout má. Jak jsem psal v předchozím článku, AI nemá hrdost ani svědomí ani pocit odpovědnosti. Musí ho doplnit člověk.

Pro jistotu jsem proto zamířil na hlavní stránku té firmy a napsal na uvedený e-mail. Nechci se chválit, ale v podstatě jsem vlastní odpovědností, svědomím a respektem vůči riziku nahradil to, co AI postrádá.

Vnímavý čtenář ale chápe, že se tak nebude chovat každý. Někdo informace rozšíří, jiný je nechá model natrénovat. Zatím se z toho nestala společenská kauza typu „Winny“, ale pravděpodobně je to jen otázka času.

Závěr – k „designu odpovědnosti“ v éře AI

AI demokratizuje přístup k informacím i jejich publikování mnohem silněji než samotný internet. Zároveň však umožňuje, aby se nechtěné úniky dostaly k útočníkům „správně a rychle“. To, co dříve mohlo projít jako „měli jsme štěstí, nikdo si toho nevšiml“, se mění na „jakmile to indexujeme, dorazí to ke špatným lidem“.

A nejde jen o chyby v nastavení. Stačí, aby někdo kdysi veřejně sdílel informace, které samy o sobě nevadí. Když je však někdo propojí, vytvoří velmi přesný obrázek dané osoby.

Vyzkoušel jsem nahrát celý tento blog do ChatGPT. Výsledek? Pocitově asi 60% přesnost v „profilování“ mojí osoby. Ano, neuhádl zaměstnavatele ani přesný věk (pouze přibližný), ale k pravdě měl znepokojivě blízko. (U stylometrických studií se uvádí, že několik desítek řádků textu stačí k identifikaci autora.)

U některých cílů to bude trefa na sto procent. I zdánlivě neškodná data mohou po propojení odhalit překvapivou pravdu. (OSINT – zpravodajství z otevřených zdrojů – se stává snadnou disciplínou pro kohokoli, třeba pro stalkera.)

Naším úkolem tedy není jen posilovat zabezpečení. Potřebujeme navrhnout odpovědnost a bezpečnost odpovídající éře AI, aby tempo demokratizace informací nepředběhlo společenská pravidla.

Díky AI máme znalosti na dosah jako nikdy dřív. Současně se ale rozpadá mýtus „když to nikdo nenajde, nic se neděje“. Dnes ještě neznám řešení, ale je jisté, že musíme změnit to, jak přemýšlíme o správě informací.

Do budoucna nám nezbývá než žít s vědomím, že demokratizace a odhalování jsou dvě strany téže mince.