“Tekoälyjärjestelmien käyttöönotto koulutuksessa on tärkeää, jotta voidaan edistää laadukasta digitaalista koulutusta ja antaa kaikille oppijoille ja opettajille mahdollisuus hankkia ja jakaa tarvittavia digitaalisia taitoja ja osaamista, myös medialukutaitoa ja kriittistä ajattelua, jotta he voivat osallistua aktiivisesti talouteen, yhteiskuntaan ja demokraattisiin prosesseihin. – Tekoälysäädöksen esipuheesta
TEKOÄLYRATKAISUT VOIVAT OLLA arvokkaita opetuksessa, mutta ne on syytä kehittää ja ottaa käyttöön vastuullisesti. Jos vain annamme ensimmäisen löytämämme tekoäly-chattibotin arvioida opiskelijoiden työsuorituksia ja kirjaamme ne sitten opintorekisteriin, toiminta on kaukana vastuullisesta. Jotta kaikille olisi selvää, mitä vastuullinen tarkoittaa, EU:n tekoälysäädös kertoo tilanteet, joissa on toimittava erityisen huolellisesti.
Vastuu opetuksen tekoälyratkaisuista on oppilaitoksella, ei opettajalla. Toisaalta kaikki yritykset on velvoitettu varmistamaan työntekijöidensä tekoälylukutaito. Oppilaitoksen on siis koulutettava opettajansa toimimaan tekoälyjärjestelmien kanssa vastuullisesti. Tässä lyhyessä artikkelissa kuvaan tekoälysäädöksen yleispiirteet, jotka auttavat opettajaa ymmärtämään yleiskuvan. Tärkein viesti kuitenkin on, että oppilaitoksen on tarjottava opettajille riittävät ohjeet erilaisten tekoälyjärjestelmien kanssa toimimiseen.
Tavoitteena luotettavat tekoälypalvelut
Tekoälyä voidaan lisätä melkein mihin tahansa: autoihin, leluihin, rekrytointiin, lainvalvontaan tai vaikka opiskelijoiden arviointiin. Lienee selvää, että huonosti tehty tekoäly vaikkapa itseohjautuvassa autossa tai opiskelijoiden esseiden arvioinnissa voi aiheuttaa kaikenlaista harmia.
Tuota harmia on kahta laatua. Se voi
- aiheuttaa riskejä ihmisten perusoikeuksille tai
- johtaa vaarallisiin tuotteisiin.
Perusoikeuksia ovat esimerkiksi oikeus koulutukseen, työn tekemiseen, sananvapaus, uskonnonvapaus ja tasa-arvo.
Vaarallisia tuotteita säädellään tuotesääntelyn kautta. EU:ssa on lakeja, jotka säätelevät vaikkapa autojen, hissien, ruoan tai sähkölaitteiden turvallisuutta. CE-merkintä kertoo, että valmistaja lupaa tuotteen olevan turvallinen. Vastaava ajattelu laajenee näiden tuotteiden tekoälyosuuteen.
Tekoälysäädöksen tavoitteena on, että EU:n markkinoilla on vain luotettavia tekoälypalveluita. Kääntäen se tarkoittaa, että jos tekoäly voi aiheuttaa harmia (tai riskejä), on se tehtävä luotettavaksi – siis tehtävä kunnolla.
Kunnolla tekeminen vaatii paljon, mutta sen voi tiivistää yhteen asiaan: hyvään datan hallinnointiin (engl. data governance). Kun datavirrat on tunnistettu, kuvattu ja hallittu, helpottuu myös vastuullisuuden ja luotettavuuden varmistaminen. Datan hallinnointi on ratkaisu sekä tietosuoja-asioihin että tekoälyn luotettavuuden varmistamiseen. Samaan ryhtiliikkeeseen kannattaa nivoa laadunvalvonta sekä riskienhallinta.
Riskitasot
Tekoälyjärjestelmät voidaan luokitella niiden riskien mukaisesti.
- Liiallinen riski: Jotkin äärimmäiset käyttötapaukset, jotka eivät ole eurooppalaisten arvojen mukaisia, on kielletty kokonaan. Näitä ovat mm. kansalaisten sosiaalinen pisteytys eri tietokantoja yhdistelemällä, reaaliaikainen kansalaisten biometrinen tunnistaminen tai ihmisten kognitiivis-behavioristinen manipulointi.
- Suuri riski: Tekoäly on osa säädeltyä tuotetta tai se muuten voi aiheuttaa riskin perusoikeuksille. Tämä on sallittua, mutta tekoäly on tehtävä sekä käyttöönotettava kunnolla, dokumentoitava ja sille on saatava viranomaishyväksyntä.
- Minimaalinen riski: Esimerkiksi chattibotit, kuvageneraattorit ja muut vastaavat, jotka tuottavat sisältöä ihmisten näkyville. Ainoa velvoite on kertoa käyttäjälle, että tämä on tekoälyn kanssa tekemissä.
- Olematon riski: Tietyt taustaprosessit, kuten roskapostisuodattimet tai videopelien tekoälygeneroidut maastot. Näille ei ole mitään velvoitteita.
Koulutuksen sektorilla suuririskisiä tekoälyjärjestelmiä ovat mm. seuraavat:
- Opiskelijavalinnat
- Oppimistulosten arviointi
- Henkilön tulevan koulutustarpeen arviointi
- Kokeiden aikainen opiskelijoiden tarkkailu
Yllä oleva luettelo on suuntaa antava ja riskitasoon vaikuttaa, kuinka itsenäisesti tekoälyjärjestelmä toimii. Jos tekoäly vaikkapa vain avustaa opettajan tekemää oppimistulosten arviointia, se ei välttämättä ole suuririskinen. Jos se taas itsenäisesti tuottaa arvosanaehdotukset, riskitaso on korkeampi.
Näin hankit tekoälyä
Tekoälyjärjestelmän toimittajan tulee tietää, mille riskitasolle sen palvelu sijoittuu. CE-merkintä tekoälyjärjestelmässä kertoo, että se on valmistettu EU:n laatuvaatimusten mukaisesti.
Tekoälysäädös vaatii tiettyjä luotettavuuden varmistuksen toimenpiteitä, kun käyttöön otetaan suuririskistä tekoälyä. Samat toimenpiteet ovat kuitenkin hyviä käytänteitä, joita kannattaa tehdä vaikkei pakko olisikaan.
Vaikka tekoälyn toimittaja on tehnyt oman osuutensa ja jakanut tiedon niistä teille, käyttöönottajana teidän on tehtävä oma osuutenne.
- Datan hallinta: Miten järjestelmää käytetään, mitä dataa siihen voidaan syöttää ja keillä siihen on pääsy. Huomioidaan tietojen luottamuksellisuus, tietosuoja-asiat ja eettiset näkökulmat.
- Laadunvalvonta: Miten järjestelmän toimintaa seurataan ja virhetilanteet havaitaan. Ammattilaisten tekemä valvonta ja sen kuvaaminen on ensiarvoisen tärkeää.
- Riskien hallinta: Virhetilanteista toipuminen, tietoturvaongelmat, yms.
Näin kehität tekoälyä
Tekoälyjärjestelmän kehittäjänä sinun on tunnistettava asiakkaidesi käyttötapaukset ja niiden korkein riskitaso. Mikäli kyseessä on suuririskinen järjestelmä, tekoälysäädös edellyttää lukuisia toimenpiteitä, joskin niitä kannattaa muutenkin tehdä.
Datan hallinta: Datalähteet, metadatat, koulutusalgoritmit, pääsy dataan
Laadunvalvonta: Automatisoidut testisarjat, koulutuksen laadun valvonta, käytönaikainen seuranta
Riskien hallinta: Systeemiset riskit, kehittäjätahon omat riskit, asiakkaiden toiminnan aiheuttamat riskit. Riskienhallintasuunnitelma.
Lisätietoja
Suomessa valvovien viranomaisten koottuna yhteyspisteenä toimii Traficom, jonka sivuilla on tarkempia ohjeita sekä yhteystiedot eri viranomaisiin.
Sitra tuottaa tekoälysäädöksestä itseopiskelukurssin osaksi Datatalouden ABC -kurssisarjaa. Tämä kurssi valmistuu keväällä 2025 ja julkaistaan osoitteessa https://www.sitra.fi/hankkeet/datatalouden-abc/
Jaa eteenpäin
