Tausta-aineisto kokoaa yhteen tekoälysuositusten tietopohjan sekä tukee koulutuksen järjestäjiä ja henkilöstöä tekoälyyn liittyvässä osaamisen kehittämisessä ja tekoälyn hyödyntämisessä paikallisesti.
Tausta-aineisto käsittelee eri teemoja, ja sitä tulisi hyödyntää teemakohtaisesta tarkastelusta huolimatta kokonaisuutena.

Euroopan unionin tekoälyasetus on kattava tekoälyä koskeva oikeudellinen kehys. Sen tavoitteena on, että EU:ssa käytettävät tekoälyjärjestelmät ovat turvallisia, läpinäkyviä, eettisiä, puolueettomia ja ihmisten valvomia. Tekoälyasetus luo pelisääntöjä tekoälyn käytölle ja vastuullisuudelle, ja jakaa tekoälyjärjestelmiä erilaisiin riskiluokkiin.

Asetus luo pohjaa toimiville, turvallisille ja oikeudenmukaisille digitaalisille toimintaympäristöille kasvatuksessa, opetuksessa ja koulutuksessa. Se myös ehkäisee digitalisoituvan ympäristön riskejä.

Tekoälyjärjestelmän käyttöönottoa suunniteltaessa tulee arvioida, täyttääkö järjestelmä EU:n tekoälyasetuksen tekoälyjärjestelmän määritelmän. Jos järjestelmä täyttää asetuksen määritelmän, on arvioitava, tuleeko järjestelmän käyttöönottajana organisaatiolle velvoitteita, ja jos tulee, niin millaisia (esimerkiksi kielto käyttää tiettyjä tekoälyä koskevia käytänteitä sekä suuririskisiä tekoälyjärjestelmiä tai yleiskäyttöisiä tekoälymalleja koskevat vaatimukset, avoimuusvelvoitteet). Velvoitteet riippuvat myös siitä, missä tekoälyasetuksen mukaisessa roolissa (esimerkiksi tarjoaja, käyttöönottaja) koulutuksen järjestäjän katsotaan toimivan.

Asetuksen mukaan tekoälyjärjestelmällä tarkoitetaan ”konepohjaista järjestelmää, joka on suunniteltu toimimaan käyttöönoton jälkeen vaihtelevilla autonomian tasoilla ja jossa voi ilmetä mukautuvuutta käyttöönoton jälkeen ja joka päättelee vastaanottamastaan syötteestä eksplisiittisiä tai implisiittisiä tavoitteita varten, miten tuottaa tuotoksia, kuten ennusteita, sisältöä, suosituksia tai päätöksiä, jotka voivat vaikuttaa fyysisiin tai virtuaalisiin ympäristöihin".

Tekoälyasetusta sovelletaan kaikkiin asetuksen määritelmän mukaisiin järjestelmiin.

Tekoälyasetuksessa on riskiperustainen lähestymistapa. Asetuksessa tekoälyyn liittyvät käytännöt on luokiteltu seuraaviin kategorioihin:

  • kielletyt tekoälyyn liittyvät käytännöt,
  • suuririskiset tekoälyjärjestelmät,
  • matalariskiset järjestelmät,
  • vähäriskiset järjestelmät

Asetuksessa yleiskäyttöisten tekoälymallien tarjoajille asetetaan myös vaatimuksia mm. dokumentaation ja käytetyn koulutusdatan kuvaamisen osalta.

Lisäksi tekoälyasetuksen mukaan tekoälyjärjestelmien tarjoajien ja käyttöönottajien on parhaansa mukaan toteutettava toimenpiteitä, joilla ne varmistavat henkilöstönsä ja muiden niiden puolesta tekoälyjärjestelmien toiminnasta ja käytöstä vastaavien henkilöiden riittävän tekoälylukutaidon, minkä yhteydessä otetaan huomioon heidän tekninen tietämyksensä, kokemuksensa, koulutuksensa ja tekoälyjärjestelmien käyttöyhteys sekä henkilöt tai henkilöryhmät, joihin tekoälyjärjestelmiä on määrä käyttää.

Takaisin ylös

Kielletyt järjestelmät ovat muun muassa sellaisia, jotka käyttävät hyväksi tai manipuloivat yksittäisen henkilön tai henkilöryhmän haavoittuvaisuuksia ja ainakin kohtuullisella todennäköisyydellä aiheuttavat merkittävää haittaa henkilölle itselleen tai toiselle henkilölle. Kaikki tekoälyyn liittyvät kielletyt käytännöt on listattu asetuksen 5. artiklassa. Esimerkiksi tekoälyjärjestelmän käyttö henkilön tunteiden päättelemiseksi työpaikalla ja oppilaitoksissa on pääsääntöisesti kielletty. Muita esimerkkejä ovat muun muassa:

  • subliminaalisia tekniikoita hyödyntävät tekoälyjärjestelmät, joita käyttävä henkilö ei havaitse tietoisesti, tai tarkoituksellisesti siinä käytettyjä manipuloivia tai harhaanjohtavia tekniikoita, ja jotka kohtuullisen todennäköisesti tai tosiasiallisesti ohjaavat henkilön tekemään tälle, toiselle henkilölle tai henkilöryhmälle haittaa aiheuttavan päätöksen
  • ikään, vammaan tai erityiseen sosiaaliseen tai taloudelliseen tilanteeseen liittyviä luonnollisen henkilön tai tietyn henkilöryhmän haavoittuvuuksia hyödyntävät järjestelmät, jotka olennaisesti vääristävät heidän käyttäytymistään tavalla, joka ainakin kohtuullisella todennäköisyydellä aiheuttaa merkittävää haittaa henkilölle itselleen tai toiselle henkilölle
  • sosiaalisen pisteytyksen järjestelmiin, joissa ihmisiä arvioidaan, luokitellaan tai heidän käytöstään ennustetaan esim. henkilön persoonan tai käytöksen pohjalta ja jotka johtavat henkilön tai henkilöryhmän haitalliseen tai epäedulliseen kohteluun.
Takaisin ylös

Suuririskiset järjestelmät ovat järjestelmiä, jotka suunnitellun käyttötarkoituksensa perusteella aiheuttavat suuren riskin ihmisten terveydelle ja turvallisuudelle tai perusoikeuksille, kun niitä käytetään asetuksessa erikseen määritellyillä aloilla. Kaikki suuririskiset järjestelmät on listattu asetuksen liitteessä III. TekoäIyasetuksessa ei kielletä suurriskisten järjestelmiä, vaan asetetaan niiden käytölle ja toiminnalle käyttörajoituksia ja velvoitteita, mm. riskien- ja datanhallintaan ja dokumentaatioon liittyen. Käyttöönottajien tulee tehdä ennen järjestelmän käyttöönottoa esimerkiksi perusoikeuksien arviointi.

Suuririskisiä järjestelmiä ovat liitteen III mukaan esimerkiksi:

  • Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi määritettäessä luonnollisten henkilöiden pääsyä tai hyväksymistä varhaiskasvatukseen ja koulutukseen kaikilla tasoilla tai osoitettaessa luonnollisia henkilöitä niihin;
  • Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi arvioitaessa oppimistuloksia, myös silloin kun kyseisiä tuloksia käytetään luonnollisten henkilöiden oppimisprosessin ohjaamiseksi varhaiskasvatuksessa ja koulutuksessa kaikilla tasoilla;
  • Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi sen asianmukaisen koulutustason arviointiin, jonka henkilö saa tai johon hän voi päästä varhaiskasvatukseen ja koulutukseen tai niiden yhteydessä kaikilla tasoilla;
  • Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi opiskelijoiden tarkkailuun ja kielletyn käyttäytymisen havaitsemiseen kokeiden aikana varhaiskasvatuksessa ja koulutuksessa tai niiden yhteydessä kaikilla tasoilla.

Liitteen III mukaista tekoälyjärjestelmää ei kuitenkaan pidetä suuririskisenä eikä sen katsota olennaisesti vaikuttavan päätöksenteon tulokseen, jos jokin seuraavista edellytyksistä täyttyy:

  • Järjestelmä toteuttaa vain suppeaa menettelyllistä tehtävää, kuten luokittelee saapuvia asiakirjoja.
  • Järjestelmä parantaa aiemmin suoritettua ihmisen toiminnan tulosta, kuten kehittää aiemmin ihmisen laatimissa asiakirjoissa käytettyä kieltä.
  • Järjestelmän tehtävä on havaita päätöksentekotapoja tai poikkeamia aiemmista päätöksentekotavoista, kuten opettajan arvostelutapojen pohjalta tarkistaa jälkikäteen, onko kyseinen opettaja mahdollisesti poikennut arvostelutavoistaan. Järjestelmän tarkoituksena ei tule kuitenkaan olla aiemmin tehdyn ihmisen tekemän arvion korvaaminen tai siihen vaikuttaminen ilman asianmukaista ihmisen suorittamaa arviota.
  • Järjestelmän tehtävä on suorittaa ainoastaan valmistelutehtäviä, jolloin järjestelmän tuotoksen mahdollinen vaikutus on hyvin vähäinen suoritettavan tehtävän kannalta. Muun muassa päätöksenteko on tässä tapauksessa ihmisellä.

Tekoälyjärjestelmä on kuitenkin aina ja edellä mainituista poikkeuksista huolimatta suuririskinen, jos sitä käytetään tietosuoja-asetuksen mukaiseen profilointiin. Lisätietoa profiloinnista tietosuojavaltuutetun toimiston sivuilta.

Takaisin ylös

Matalariskisten järjestelmien käyttöönottajille ja tarjoajille on asetuksen luvussa IV säädetty avoimuus- ja läpinäkyvyysvelvoitteita. Matalariskisiä tekoälyjärjestelmiä ovat esimerkiksi suorassa vuorovaikutuksessa henkilöiden kanssa olevat järjestelmät, synteettistä ääni-, kuva-, video- tai tekstisisältö tuottavat järjestelmät tai syväväärennöksen muodostavaa kuva-, ääni- tai videosisältöä tuottavat tai manipuloivat järjestelmät.

Takaisin ylös

Vähäriskisiä tai riskittömiä järjestelmiä ovat muun muassa tekoälyä hyödyntävät videopelit ja roskapostisuodattimet. Tähän kategoriaan kuuluvia tekoälyjärjestelmiä saa Euroopan unionin alueella tekoälyasetuksen kannalta käyttää ja kehittää vapaasti.

Takaisin ylös

Yleiskäyttöiset tekoälymallit ovat ”hyvin yleisluonteisia ja pystyvät suorittamaan pätevästi monenlaisia erillisiä tehtäviä riippumatta siitä, miten malli saatetaan markkinoille, ja joka voidaan integroida erilaisiin ketjun loppupään järjestelmiin tai sovelluksiin”. Mallit on asetuksen V luvussa mainittu erikseen, eivätkä ne sellaisenaan kuulu suoraan mihinkään riskikategoriaan.

Jos tekoälymallin katsotaan aiheuttavan systeemisiä riskejä muun muassa mallin tehokkuuden tai laajan käytön vuoksi, asetuksessa asetetaan mallin tarjoajille esimerkiksi riskienhallintaan, testaukseen, tietoturvaan ja ympäristövaikutuksiin liittyviä velvoitteita.

Asetuksen mukaan yleiskäyttöiset tekoälyjärjestelmät voivat olla suuririskisiä tekoälyjärjestelmä itsessään tai ne voivat olla muiden suuririskisten tekoälyjärjestelmien komponentteja.

Takaisin ylös

Tekoälyasetusta ei sovelleta mm. "tekoälyjärjestelmiin tai tekoälymalleihin, jotka on erityisesti kehitetty ja otettu käyttöön yksinomaan tieteellistä tutkimusta ja kehittämistä varten, eikä myöskään niiden tuotoksiin".

Takaisin ylös

Asetus toimeenpannaan kansallisella lainsäädännöllä tarvittavilta osin, esimerkiksi jäsenmaat määrittävät kansallisesti asetusta valvovat viranomaiset. Tekoälyasetuksen kansallisen toimeenpanon valmistelusta vastaa työ- ja elinkeinoministeriö. Tämän tekstin julkaisuajankohtana kansallinen toimeenpano on vielä kesken. Euroopan unionin tasolla asetuksen toimeenpanosta vastaa Euroopan tekoälytoimisto. Jäsenvaltiot ovat edustettuina tekoälyneuvostossa, joka neuvoo ja avustaa komissiota ja jäsenvaltioita asetuksen johdonmukaisen ja vaikuttavan soveltamisen edistämiseksi.

Takaisin ylös

Tekoälyasetus on tullut voimaan 1.8.2024 ja sen mukaisia velvollisuuksia sovelletaan täysimääräisesti 2.8.2026 lähtien. Tästä poiketen asetukseen sisältyy velvollisuuksia, jotka tulevat voimaan seuraavien siirtymäaikojen mukaisesti:

1.8.2024 tekoälyasetuksen voimaantulo

2.2.2025 kiellettyjä järjestelmiä koskeva sääntely sekä tekoälylukutaidon velvoite voimaan

  • I luku (”Yleiset säännökset”, ml. tekoälylukutaidon edistäminen) ja
  • II luku (”Kielletyt tekoälyyn liittyvät käytännöt”)

2.8.2025 yleiskäyttöisiä tekoälymalleja koskevat hallintosäännöt ja velvoitteet sekä kansallisia valvontaviranomaisia koskevat kohdat voimaan

  • III luvun 4 jakso (”Ilmoittamisesta vastaavat viranomaiset ja ilmoitetut laitokset”),
  • V luku (”Yleiskäyttöiset tekoälymallit”),
  • VII luku (”Hallinnointi”),
  • XII luku (”Seuraamukset”) ja 78 artikla (”Luottamuksellisuus”), lukuun ottamatta 101 artiklaa (”Yleiskäyttöisten tekoälymallien tarjoajille määrättävät sakot”);

2.8.2026 asetusta sovelletaan täysimääräisesti

2.8.2027 säännöt säänneltyihin tuotteisiin sisällytetyistä korkean riskin tekoälyjärjestelmistä voimaan (liite I)

  • 6 artiklan 1 kohta (järjestelmän luokittelu suuririskiseksi liitteen I mukaisissa tapauksissa) ja asetuksen vastaavat velvoitteet
Takaisin ylös

Takaisin ylös

Tekoälyasetuksen lisäksi tekoälyä hyödynnettäessä tulee huomioida EU- ja kansallisen tason muu lainsäädäntö kuten hallintolaki, julkisuuslaki, tietosuoja-asetus, tietosuojalaki, tiedonhallintalaki, laki digitaalisten palvelujen tarjoamisesta, tekijänoikeuslaki, hankintalainsäädäntö, yhdenvertaisuuslaki, tasa-arvolaki sekä soveltuvat kasvatuksen ja koulutuksen hallinnonalan lainsäädäntö kuten varhaiskasvatuslaki, perusopetuslaki, lukiolaki, laki ammatillisesta koulutuksesta, laki tutkintokoulutukseen valmentavasta koulutuksesta ja laki vapaasta sivistystyöstä.

Takaisin ylös
Päivitetty