Tekoäly kehittyy ja etenee vauhdilla, ja tätä kehitystä on syytä pitää silmällä – siinä, missä tekoäly voi olla hieno tukiäly tuottavaan työhön, sitä voidaan myös käyttää informaatiovaikuttamiseen, horjuttamiseen ja väärän tiedon levittämiseen.
Osana Immune 2 Infodemic 2 -hankettamme, yhdessä hankekumppaneidemme Beyond the Horizon (BE), Dare To Be Grey (NL) sekä Januam (DE) kanssa järjestimme 25.10.2024 Faktabaari LAB-työpajan, jossa luodattiin tekoälyavusteisen disinformaation nykytilaa ja mahdollista tulevaisuutta. Kolmituntiseen kutsuvierastilaisuuteen osallistui 25 osanottajaa kaikilta sektoreilta ja useilta eri hallinnonaloilta. Keskustelut käytiin Chatham House -säännöillä.
Tilaisuudessa annettiin kolme lyhyttä alustusta kyberturvallisuudesta, mediasta ja demokratiasta herättämään keskustelua, jonka jälkeen pienryhmiin jakautuneet osallistujat keskustelivat fasilitoidusti aihepiireihin liittyvistä kysymyksistä. Keskusteluista syntyi yhteensä 27 sivua muistiinpanoja, joissa olevia näkökulmia olemme koonneet ja toimittaneet oheiseen raporttiin.
Keskusteluista nousi kuusi keskeistä teemaa, joiden syvempää käsittelyä voi lukea alla olevasta raportista. Teemoja, joita löydettiin oli:
- Luottamuksen rapautuminen ja informaation luotettavuuden kriisi: tekoälysovellukset voivat pahentaa sosiaalista polarisaatiota tehostamalla harhaanjohtavien narratiivien tuottamista ja levittämistä, ja siten vaikuttaa demokraattisiin prosesseihin, nakertaa kuluttajien luottamusta ja heikentää yritysten päätöksentekoa. Markkinoiden manipuloiminen esitettiin huolenaiheena.
- Tekoälytehosteisen disinformaation riskit: työpajassa tunnistettiin jo nyt tapahtuva syväväärennösten käyttö poliittiseen manipulaatioon ja huijauksiin, sekä tulevana riskinä mm. hyperlokalisoitu ja dynaaminen disinformaatiokampanjointi. Suurten kielimallien haavoittuvuus korruptiolle ja manipulaatiolle nousi myös teemana.
- Suurten teknologiayritysten digivalta: suurten teknologiayritysten toimintaa pidettiin läpinäkymättömänä, ja kyky kiertää sääntelyä herätti huolenaiheita. Yritysten sekaantuminen demokraattisiin vaaleihin mahdollistamalla mm. mikrotargetointia sekä jakamalla dataa epädemokraattisten tahojen kanssa uhkaavat demokraattisia arvoja.
- Medialukutaito ja kansallinen resilienssi: digitaalisen medialukutaidon merkitys demokratian puolustuslinjana oli vahvasti läsnä keskusteluissa. Kriittisen ajattelun ja informaation arvioinnin taitoihinin panostaminen nähtiin prioriteettina koulutusjärjestelmille.
- Tekoälyn sääntely: työpajassa painotettiin proaktiivista, EU-tasoista sääntelyä ihmislähtöisen tekoälyn kehittämiseksi. Sääntelyn tavoitteena tulisi olla tekoälyn eettisten ja juridisten rajoitteiden vahvistaminen väärinkäytön minimoimiseksi.
- Kognitiivinen turvallisuus: tekoälyn nähtiin olevan riski jaetulle kokemukselle todellisuudesta, ennen kaikkea johtuen informaatioylikuormituksesta joka mahdollistaa kriittisen ajattelun kiertämisen sekä räätälöidyn manipulaation. Tässä ns. kognitiivisessa turvallisuudessa havaittiin pitkän aikavälin riskejä demokratioiden vakaudelle ja kansalaisten älylliselle autonomialle.
Työpajan tuottamat suositukset pähkinänkuoressa
- Sektorit ja hallinonalat ylittävän sekä kansainvälisen yhteistyön lisääminen tekoälytehosteisen disinformaation torjumiseksi.
- Yhtenäisten strategioiden tekeminen informaatiolukutaidon, kriittisen ajattelun ja uteliaisuuden lisäämiseksi.
- Tekoälyn sääntelyn ja eettisten standardien tiukempi valvominen.
- Ennaltaehkäisevät ja proaktiiviset toimet kognitiivisen turvallisuuden riskien minimoimiseksi.
Työpajaa kiiteltiin laajasti, ja saamamme palautteen perusteella osallistujat pitivät työpajaa ja tilaisuutta ylipäätään äärimmäisen tarpeellisena aloitteena – osallistumishalukkuutta työpajaan olisi ollut huomattavasti enemmän kuin pystyimme ottamaan mukaan. Toivomme jatkossakin voivamme järjestää vastaanvanlaisia työpajoja rahoituksemme puitteissa.
Tulemme jatkojalostamaan näitä työpajan löydöksiä Immune 2 Infodemic 2 -hankkeessamme tuottaaksemme koulutusaineistoja, joita voidaan käyttää riskien torjumiseen ja haittojen minimoimiseen sekä niihin liittyvän ymmärryksen lisäämiseen.
Jaa eteenpäin
