Bevezetés

Egy éjszakai dolgozószobában – ami valaha gardrób volt – végtelen beszélgetésekbe bonyolódtam egy generatív MI-vel. Az Obon-szünet helyett alvás nélkül töltöttem az időt: kérdéseket sorjáztattam a ChatGPT-nek, a válaszaitól pedig felváltva lelkesedtem és bosszankodtam. Néha hangosan felkiáltottam, hogy „ez zseniális!”, máskor pedig dühítően félrecsúszott feleletei kergettek őrületbe.

Megjegyzés azoknak az olvasóknak, akik nem ismerik az Obon japán ünnepet: az Obon augusztus közepén tartott buddhista megemlékezés az ősök tiszteletére; ilyenkor sok vállalat szabadságot ad, és a családok hazautaznak, hogy részt vegyenek az emlékünnepségeken.

A sokadik ilyen kör után egyre világosabban rajzolódott ki bennem valami.

―― A generatív MI-ből végzetesen hiányzik valami.

Az önérzet. A meggyőződés. A felelősségérzet. Aki ismer, tudja, hogy a pusztán lelki tényezőkre hivatkozó érveléseket nem kedvelem. Most mégis ezekhez a szavakhoz kellett nyúlnom. Akárhogy forgattam a mondatokat, mindig ide jutottam. És ahogy telt az idő, úgy éreztem, hogy talán éppen ez a hiány magyarázza meg, miért nem képes a generatív MI kiváltani az embert.

Mit várunk a professzionális szakemberektől?

Az emberek a szakemberektől nemcsak tudást és jártasságot várnak el, hanem etikus hozzáállást is. Vegyünk egy légkondicionáló-szerelőt, aki a megrendelő által kijelölt helyre fúrna lyukat. Mi történik, ha a falban tartóoszlop fut? Az nem mentség, hogy „az ügyfél így kérte”. Ha letöri a tartóoszlopot, jogilag lehetnek kérdések, de erkölcsileg biztosan felelősség terheli. Az ügyfél pedig nem pusztán azt várja, hogy valaki „utasítás szerint dolgozzon”, hanem azt is, hogy felhívja a figyelmet a kockázatokra, és jobb megoldást javasoljon. Pontosan ez az önérzet, a hit és a felelősség, amit a professzionális hozzáállástól elvárunk.

A generatív MI jelenlegi állapota és korlátai

A generatív MI remekül utánozza a tudást és a nyelvi mintázatokat. De nem képes arra, hogy „az önérzetem tiltakozik, ezért visszautasítom” vagy „felelősséget vállalok mások biztonságáért” – ilyen attitűd nincs beépítve. Jelenleg ezt a hiányt a szolgáltatók szabályzatokkal és policy-kkel igyekeznek lefedni. Az, hogy tiltják a bűnözői vagy felnőtt tartalmú felhasználást, egyértelmű határ. De már az is nehézséget jelent, hogy „szakemberként jobb javaslatot kellene adni-e” – ez egy szürkezóna. Ha a felhasználó részletes promptot ír, valamennyire pótolhatók a hiányzó elemek, de ez inkább egy olyan szakácsra emlékeztet, aki tökéletesen követi a receptet, mégsem kóstol bele. Így amikor a recept nem tér ki az előfeltételekre vagy a váratlan helyzetekre, könnyen ehetetlen étel készül, amit aztán gond nélkül tálal is. Nem szégyelli, nem áll neki kétségbeesetten új főzésbe.

Miért nélkülözhetetlen (egyelőre) az ember?

Mindezek miatt jelenleg elengedhetetlen, hogy az ember legyen az elszámoltatható integrátor, aki felelősséggel kezeli az MI-t. Az etika, a jog, a fejlesztési irányelvek és a felhasználók oktatása is abból indul ki, hogy „az MI csak az ember segítője”. Ugyanakkor ez csak „egyelőre” igaz. Nem zárható ki, hogy a jövőben az MI képes lesz szimulálni a felelősséget.

Kutatási irányok a világban

Már most is számos törekvés vizsgálja, hogyan lehet „felelősségszerű” viselkedéssel felruházni az MI-t.

  • Leíró etika (Delphi): a jó és rossz mintázatainak megtanítása MI-nek. A konzisztencia és az elfogultság problémája azonban továbbra is gondot okoz.
  • Meaningful Human Control: olyan tervezési elv, amely szerint az MI nem lehet teljesen autonóm; az embernek kell megőriznie az irányítást. Kiemelt téma az önvezetésben és a védelmi iparban.
  • Értéktanulás (Value Learning): az emberi viselkedésből és visszajelzésekből próbálja becsülni az értékrendeket, és így csökkenteni az etikai eltéréseket.
  • NIST AI RMF és társai: átfogó keretrendszerek a felelős MI-tervezéshez.

Ezek a megközelítések még gyerekcipőben járnak, de talán alapot adhatnak ahhoz, hogy az MI egyszer „eljátssza” a felelősséget.

Mit jelent a felelősség szimulációja?

Érdemes elidőzni annál, mit is takar a felelősség „szimulálása”.

A felelősségnek legalább két rétege van:

  • Eredményfelelősség: vállalni a cselekedetek következményeit.
  • Válaszfelelősség: mások kérdéseire és elvárásaira magyarázattal felelni.

Az MI legfeljebb annyit tud, hogy nyomon követi a kockázatokat és figyelmeztet, vagy átláthatóvá teszi az indoklásait. Vagyis az MI felelőssége leginkább a „transzparencia és az önkorlátozás” formájában szimulálható. Másfelől nem zárható ki, hogy az emberi értelem és felelősségérzet is csak az agy szimulációja. Ennek ellenére még mindig markáns különbséget érzek a jelenlegi MI és az emberek önérzete, meggyőződése, felelőssége között. De honnan ered ez a különbség?

Mi okozza az ember és az MI közötti különbséget?

Úgy vélem, három fő tényezőből fakad ez az eltérés.

  1. Fizikai és társadalmi fájdalom: Ha az ember hibázik, fájdalmat él át. Gazdasági veszteséget, társadalmi elítélést, lelkiismeret-furdalást. Ezek teszik a felelősséget „valóságossá”. Az MI képes feljegyezni a hibákat, de nem tudja „fájdalomként” visszacsatolni önmagához.

  2. Időbeli következetesség: Az ember kénytelen a tetteinek következményeit később is viselni. Egy orvosi félrediagnosztizálásért évekkel később is felelősségre vonhatják. Az MI viszont a következő pillanatban akár az ellenkezőjét is mondhatja, és nem hordozza a súlyát.

  3. Értékrend és identitás: Az ember kimondhatja: „ez a meggyőződésem, ebből nem engedek”. Ez a társadalomhoz és kultúrához kapcsolódva alakítja ki az identitását. Az MI-nek nincs identitása; tetszőlegesen válthat nézőpontot.

E három tényező együtt ad súlyt az emberi felelősségérzetnek. Ugyanakkor léteznek felelőtlen, etikátlan emberek is. Vagyis a különbség talán nem az ember és az MI lényegi, megváltoztathatatlan sajátosságában rejlik, hanem abban, hogy van-e társadalmi tapasztalat és hovatartozás, ami megtartja a felelősséget.

Az „én” és a felelősség

Itt jut eszembe Descartes „Gondolkodom, tehát vagyok” tétele. A felelősségérzet nem egyszerű szabálykövetés, hanem az „énhez” tartozó tapasztalatokból ered. A fájdalom, a bűntudat, a kételyek és félelmek mind hozzájárulnak ahhoz, hogy megéljük: „én vállalom a felelősséget”. Vagyis a jelenlegi MI-nek nincs „énje”. Van egy folyamat, amely a bemenetet a kimenettel összeköti, de nincs, amihez visszacsatolódna a fájdalom, nincs szégyenérzet, nincs önérzet vagy büszkeség. Ezért nem látjuk benne a felelősség csíráját, és ezért tűnnek a válaszai időnként olyan emberien felelőtlennek. Lehet, hogy az ember felelősségérzete is csak az agy által létrehozott szimuláció. De a „jó” ember szimulációjától még messze járunk. Az igazi kérdés talán az, hogy az MI által szimulált felelősség társadalmilag működőképes lenne-e.

Összegzés és további kérdések

  • A generatív MI-ből hiányzik az önérzet, a meggyőződés és a felelősség.

  • Jelenleg az embernek kell felelős integrátorként megtervezni és működtetni az ilyen rendszereket.

  • A világ különböző pontjain már zajlanak kísérletek a „felelősség szimulációjára”, de amíg az MI-nek nincs „énje”, addig nagy lesz a szakadék a „jó” emberekhez képest.

  • Ugyanakkor nem kizárt, hogy az ember felelősségérzete is szimuláció.

Végső soron a kérdés egyszerű: Meg tudjuk-e tanítani az MI-t „fájdalmat” érezni? Lehet, hogy ez az önérzet és a felelősség minimuma.

A válasz ma még nincs meg. De amíg nem engedjük el ezt a kérdést, addig nyitva marad az út, hogy az ember és az MI közös jövőjéről beszélgessünk. És ha egyszer megszületik a felelet, vajon az MI a társunkká válik, vagy éppen akkor váltja le végleg az embert?