Johdanto – linkki, jonka tekoäly ojensi

Eräänä päivänä kysyin työpaikalla käyttämältämme tekoälyltä, miten tietyn toimittajan työkalu toimii. Kyse ei ole tunnetusta avoimen lähdekoodin projektista eikä kaupallisesta tuotteesta, jonka ympärille olisi kasvanut suuri yhteisö; verkosta löytyy vain satunnaisia vihjeitä.

Tekoäly antoi täsmällisen ratkaisun ja tarjosi vielä “lähdelinkin”.

Linkki avautui ilman ongelmia. Sivulta löytyi juuri etsimäni ohje, mutta otsikossa luki:

“Luottamuksellinen – älä jaa organisaation ulkopuolelle.”

Hetkinen. Minkä yrityksen sisäisestä dokumentista oli kyse? Tarkempi tarkastelu paljasti, ettei se ollut meidän ohjeemme eikä toimittajan virallinen manuaali, vaan ilmeisesti toista samaa työkalua käyttävää yritystä varten laadittu sisäinen ohje.

Onnekas sattuma?

…

Ei todellakaan. Tilanne kylmäsi selkärankaa.

Kyllä, sivu olisi löytynyt myös ilman tekoälyä, jos olisi keksinyt oikeat hakusanat. Mutta se oli hautautunut hakutulosten kymmenien sivujen taakse – käytännössä neula heinäsuovassa.

Ensimmäinen osa: tekoälyn tuoma “demokratisoituminen”

Perinteiset hakurobotit pakottivat ihmiset seulomaan kultahippuja valtavasta hiekkakasasta. Hakukoneet tekevät kaikkensa nostaakseen oikeat sivut esiin, mutta resurssit ovat rajalliset: suuret sivustot hallitsevat kärkeä, ja tärkeä tieto piiloutuu helposti marginaalisiin tuloksiin.

Tekoäly sen sijaan kaivaa esiin suoraan sen kultahippusen – jopa heikosti sijoittuneilta sivuilta – jos kysymys osuu kohdalleen.

  • Tieto, jonka etsimiseen ihminen käyttäisi kymmeniä minuutteja tai luovuttaisi kokonaan, ilmestyy välittömästi, jos syöte osuu maaliin.
  • Ihmiset, joilla ei aiemmin ollut pääsyä erikoisosaamiseen tai hiljaiseen tietoon, saavat vastauksen hetkessä.

Se on kiistatta tiedon demokratisoitumista. Aivan kuten internet aikanaan, tekoäly irrottaa tiedon entistä tehokkaammin eliittien ja asiantuntijoiden yksinoikeudesta ja tekee siitä laajemmin saavutettavaa.

Vaikutus näkyy selvästi myös koulutuksessa ja tutkimuksessa. Opiskelija tai työelämän asiantuntija voi kaivaa käsille aiemmin pelkästään erikoiskirjallisuudesta tai konferenssijulkaisuista löytyneet tiedot. Startup voi hahmotella strategian ilman miljoonaluokan konsulttisopimuksia, ja yksittäinen kehittäjä voi rakentaa sovelluksen yhdessä yössä.

Myös julkaisemisen puolella ilmiö on sama. Internet mahdollisti kenen tahansa viestiä maailmalle, mutta todellisuudessa tuntemattoman tekijän sisältö jäi usein löytämättä.

Nyt tilanne on toinen. Tekoäly nosti silmieni eteen sisällön, jonka hakukone olisi tuskin koskaan tarjonnut: SEO-optimoinnin puutteesta kärsivän, vahingossa julkiseksi jätetyn, heikosti sijoittuneen sivun. Se oli täydellinen vastaus kysymykseeni.

Voikin väittää, että tiedon julkaiseminen ja siihen pääsy ovat demokratian uudella tasolla.

Toinen osa: demokratisoitumisen varjona “paljastuminen”

Sama demokratisoituminen on kuitenkin samalla paljastumista – tämän tajusin omakohtaisesti.

Kyseinen yrityksen tieto oli päätynyt julkiseksi luultavasti väärän asetuksen vuoksi. Se olisi ollut löydettävissä myös perinteisellä hakukoneella, sillä sivu oli täysin avoin ja indeksoitu.

Mutta ilman tekoälyä kukaan tuskin olisi sattunut siihen: harva kahlasi hakutulosten kahdettakymmenettä sivua yksitellen.

Tieto, jonka olisi pitänyt jäädä “onneksi kukaan ei huomannut” -kategoriassa turvalliseksi, tavoittaa nyt oikean vastaanottajan välittömästi tekoälyn avulla.

Tässä tapauksessa kyse oli työkalun käyttöohjeesta, eikä etsijällä ollut pahantahtoista tarkoitusta, joten vahinko jäi syntymättä.

Mutta entä jos kyse olisi ollut vahingossa julkiseksi jääneestä arkaluontoisesta tiedosta ja hakijana pahantahtoinen toimija? Tekoälyn aikakaudella käytännön salassapito – “sitä on vaikea löytää” – ei enää toimi.

“Se oli piilossa, joten olimme turvassa” ei päde. Kun tieto on indeksoitu, se päätyy sitä etsiville nopeasti.

On totta, että suurilla tekoälypalveluilla on politiikkoja, jotka estävät vastaamasta vahingollisiin pyyntöihin. Mutta entä yksilön ylläpitämä tekoäly ilman suodattimia?

Muistamme Winny-ohjelman aikoinaan levittämät paljastusvirus-tapaukset. Silloin vuoti kaikkea puolustusvoimien tiedoista yritysten asiakasrekistereihin ja yksityisiin kuviin, ja seuraukset olivat valtavat. Yritykset jopa teettivät työntekijöillä vakuutuksia siitä, etteivät nämä käyttäisi Winnyä – vaikka ohjelma oli vain vertaisverkko.

Tekoälyä hyödyntävä paljastuminen voisi olla paljon pahempaa. Kun tieto joutuu väärään tilaan edes kerran, se siirtyy pahantahtoisen toimijan käsiin nopeammin kuin koskaan. Viruksia ei tarvita, riittää yksi lipsahdus.

Tekoäly vastaa kysyjälle epäröimättä. Sillä ei ole etiikkaa eikä vastuuntuntoa.

Politiikalla suojattu tekoäly saattaa kieltäytyä, mutta kuka tahansa voi rakentaa suodattamattoman mallin – Hugging Facessa niitä on jo saatavilla.

Tekoälyn aikakaudella “piilossa siksi turvassa” ei ole enää olemassa.

Lisäksi paljastuminen ei rajoitu yhteen kertaan. Kun tieto päätyy tekoälyn oppimisaineistoon, se voidaan tiivistää ja tarjoilla uudelleen yhä uusille käyttäjille. Tieto voi levitä puolihuomaamatta ja jäädä elämään tekoälyn kautta lähes pysyvästi.

Kolmas osa: nopeuden epäsymmetria

Tilannetta pahentaa nopeuden epäsymmetria.

  • Tekoäly löytää ja tarjoaa tiedon huimaavan nopeasti, erityisesti juuri sille, joka sitä tarvitsee.
  • Ihmisten laatimat lait, sääntely, eettiset periaatteet ja vastatoimet kehittyvät hitaasti – parhaimmillaankin vuosien aikajänteellä.

Epäsuhta tekee tilanteesta pelottavan.

Aiemmat viestintäkanavat – sanomalehdet, televisio, hakukoneet – sisälsivät viiveitä ja kitkaa. Yhteiskunnalla oli aikaa luoda sääntöjä. Tekoäly puolestaan poistaa kitkan lähes kokonaan ja jakaa “optimaalisen vastauksen” hetkessä koko maailmalle.

Näin sekä oikea tieto, väärä huhu että epämiellyttävä paljastus leviävät samaa vauhtia niille, jotka niitä etsivät. Asiantuntijan tutkimus ja nimettömän foorumin huhut – tai vahingossa vuotanut data – saavat tekoälyn suussa saman painoarvon. Tämä tulevaisuus on jo alkanut.

Neljäs osa: kuka kantaa vastuun?

Tällä kertaa minä avasin linkin. Se ei ollut luvaton pääsy: sivu löytyi haulla, eikä tunnistautumista tarvittu.

Ongelma on siinä, että päätös “saanko katsoa” sysättiin ihmiselle ja vastaavasti päätöstä “saako tämän näyttää” ei tehty missään vaiheessa.

Tekoäly antaa vastauksen, mutta ei pohdi, pitäisikö sen antaa. Kuten aiemmassa kirjoituksessani Generatiivisen tekoälyn puuttuva selkäranka totesin, tekoälyltä puuttuu omatunto. Siksi ihmisen on täydennettävä sitä omallaan.

Varmuuden vuoksi etsin sivuston yhteystiedot ja ilmoitin havainnostani. En kehu itseäni, mutta käytännössä paikkaan tekoälyn välinpitämättömyyttä ihmisyyden vastuuntunnolla ja pelolla.

Lukija arvaa varmasti, ettei jokainen toimisi näin. Joku jakaisi tiedon eteenpäin, toinen syöttäisi sisäistä tietoa tekoälyn opittavaksi. Toistaiseksi en ole nähnyt ilmiön nousevan Winny-aikaiseen mittakaavaan, mutta se on vain ajan kysymys.

Lopuksi – kohti tekoälyn ajan “vastuumuotoilua”

Tekoäly demokratisoi tiedon hankintaa ja jakamista tehokkaammin kuin mikään aiempi teknologia. Samaan aikaan se mahdollistaa tahattomat paljastukset ja toimittaa ne pahantahtoisille täydellisen osuvasti ja salamannopeasti.

Pelottavuus piilee siinä, että “asetukset olivat väärin mutta kukaan ei huomannut” ei enää päde. “Asetukset olivat väärin ja heti kun sivu indeksoitui, se päätyi väärille käsille” on uusi todellisuus.

Eikä kyse ole pelkistä virheistä: joskus julkistettu tieto voi muodostaa kokonaisuuden, joka paljastaa henkilön odottamattomalla tavalla.

Testasin huvin vuoksi syöttämällä tekoälylle kaikki tämän blogin kirjoitukset. Se kykeni analysoimaan profiiliani pelottavan hyvin – ehkä 60 prosentin tarkkuudella, muttei kaukana totuudesta.

Se ei arvannut työnantajaani eikä tarkkaa ikää (suuntaa-antavan kyllä), ja virheitä oli runsaasti, mutta silti analyysi oli hämmästyttävän osuva.

Stylometrinen tutkimus osoittaa, että kirjoittaja voidaan paikantaa jopa muutaman kymmenen tekstirivin perusteella.

Joissakin tilanteissa osumatarkkuus voi olla täydellinen. Näennäisen harmittomista tiedonjyvistä voi muodostaa kokonaisuuden, joka paljastaa todellisuuden yksityiskohtaisesti.

OSINT (Open Source Intelligence) – avoimista lähteistä tehtävä tiedonkeruu ja analyysi – muuttuu entistä voimakkaammaksi ja helpommaksi. Kuka tahansa voi kohdistaa sen kehen tahansa, vaikkapa vainoaja kohteeseensa.

Tuleva haaste ei ole pelkkä tietoturvan tiukentaminen. Tarvitsemme vastuun ja turvallisuuden muotoilua, joka pysyy tekoälyn kiihtyvän tiedon demokratisoitumisen tahdissa.

Tekoäly tuo tiedon lähemmäs kuin koskaan. Mutta “jos sitä ei löydy, se on vaaratonta” -ajattelu on romahtanut. Ratkaisu ei ole vielä tänään käsissäni, mutta on selvää, että tietoisuuden tasoa on nostettava: tekoäly on hämärtänyt rajat, ja meidän on ajateltava tiedonhallinta uusiksi.

Meidän on elettävä niin, että muistamme koko ajan: demokratisaation ja paljastumisen kolikko on kaksipuolinen.