Johdanto

Tekoäly varhaiskasvatuksessa ja koulutuksessa - lainsäädäntö ja suositukset materiaalin tavoitteena on auttaa varhaiskasvatuksen, opetuksen ja koulutuksen järjestäjiä (jatkossa yksinkertaisuuden vuoksi käytetään termiä koulutuksen järjestäjä viittamaan kaikkiin edellä mainittuihin) tekoälyyn liittyvän osaamisen kehittämisessä sekä edistää tekoälyn vastuullista, turvallista ja innovatiivista käyttöä. Kokonaisuus sisältää lainsäädännön pohjalta johdettavat velvoitteet sekä yleiset suositukset sekä niihin liittyvän taustamateriaalin. Kokonaisuus on laadittu opetus- ja kulttuuriministeriön ja Opetushallituksen yhteistyönä ja se on osa Suomen Digitaalisen kompassin toimeenpanoa.

Velvoitteissa ja suosituksessa käytetään käsitettä tekoäly, kun viitataan tekoälyyn yleisesti ja laajasti ilmiönä ja teknologiana. Käsitettä tekoälyjärjestelmä käytetään, kun viitataan koulutuksen järjestäjän tekoälyä hyödyntäviin järjestelmiin, palveluihin ja sovelluksiin. Jos kirjaus koskee pelkästään generatiivista tekoälyä, tekstissä on käytetty käsitettä generatiivinen tekoäly. Tausta-aineisto käsittelee eri teemoja, ja sitä tulisi käsitellä teemakohtaisesta tarkastelusta huolimatta kokonaisuutena.

Tekoälyn nopea kehittyminen ja tekoälysovellusten lisääntyminen edellyttää myös kasvatuksen ja koulutuksen ammattilaisia kehittämään pedagogiikkaa, opetuksen tavoitteita ja sisältöjä, oppimisen tukea sekä oppimisen ja osaamisen arviointia. Dataa, automaattista päätöksentekoa ja koneoppimista käytetään laajasti muun muassa sosiaalisessa mediassa, pankki- ja taloussektorilla, lehdistössä, hakupalveluissa ja hybridivaikuttamisessa. Tekoälyä hyödyntävät teknologiat ja niiden varaan rakentuvat ilmiöt voivat vaikuttaa myös yhteiskuntien demokratiaan ja sananvapauteen, esimerkiksi automaattisen sensuroinnin ja tiedon tuottamisen kautta. Tekoälyn yleistymisen myötä oppimisen tavat sekä käsitys tiedosta ja tietämisestä muuttunevat, mutta kehitys ei tule poistamaan tarvetta oppia esimerkiksi lukemaan, laskemaan tai hallitsemaan eri oppiaineiden ydinsisältöjä.

Tekoälyn toimintamallien ymmärtäminen ja sen vaikutusten hahmottaminen on lähtökohta tekoälyn vastuulliselle, turvalliselle ja innovatiiviselle käytölle. Tämä myös mahdollistaa tekoälyn käyttömahdollisuuksien ja sen rajoitteiden kriittisen arvioinnin sekä kokonaisvaltaisen pohdinnan hyödyistä ja haitoista. Tekoälyn käytön sopivuutta ja mahdollisia haittoja tulee arvioida eri tilanteissa. Tekoäly on tärkeää nähdä itsessään oppimisen kohteena. Oppijoita tulee muun muassa tukea kehittämään tekoälylukutaitoaan, tekoälyn käyttötaitojaan ja olemaan kriittisiä tekoälyn tuotoksia kohtaan oppijoiden ikä ja oppimisen tavoitteet huomioiden. Tekoälyjärjestelmiä käyttöönotettaessa on varmistettava, että käyttäjillä on käyttöönoton kannalta riittävä ymmärrys ja kyky tulkita sekä kriittisesti arvioida tekoälyn tuottamia tuotoksia.

Tekoäly varhaiskasvatuksessa ja koulutuksessa - lainsäädäntö ja suositukset on päivittyvä ohjeistus, koska tekoälyteknologiat kehittyvät kiihtyvää vauhtia ja niiden sovellusmahdollisuudet eri yhteiskunnan osa-alueilla lisääntyvät jatkuvasti. Lisäksi, kun tekoälyn käytöstä koulutuksessa saadaan lisää tutkimustietoa ja käytännön kokemusta, voidaan suosituksia ja ohjeistuksia tarkentaa.

Yleiset periaatteet

1. Koulutuksen järjestäjän tehtävä on linjata tekoälyn käytöstä oman organisaationsa toiminnassa, kuten opintohallinnossa, opetuksessa ja opiskelussa sekä ohjauksessa. Koulutuksen järjestäjän tehtävänä on myös arvioida tarve henkilöstön perehdyttämiselle ja ohjeistukselle.

2. Koulutuksen järjestäjä vastaa niiden tekoälyjärjestelmien lainmukaisuudesta, jotka koulutuksen järjestäjä tarjoaa tai on hankkinut käytettäväksi koulutuksen järjestäjän toiminnassa. Koulutuksen järjestäjän on arvioitava lainsäädännöstä tulevat velvoitteet (mm. tekoälyasetus, tietosuoja-asetus, tietosuojalaki, tekijänoikeuslaki, tiedonhallintalaki, hallintolaki, digipalvelulaki, hankintalainsäädäntö, yhdenvertaisuuslaki, tasa-arvolaki sekä soveltuvat hallinnonalan erityislait kuten varhaiskasvatuslaki, perusopetuslaki, lukiolaki, laki ammatillisesta koulutuksesta , laki tutkintokoulutukseen valmentavasta koulutuksesta, laki vapaasta sivistystyöstä ja laki taiteen perusopetuksesta), sekä miten ne otetaan huomioon käytännön toteutuksissa.

3. Tekoälyn käytön tulee olla linjassa valtakunnallisten opetussuunnitelmien ja tutkintojen perusteiden ja niiden pohjalta laadittujen paikallisten suunnitelmien sekä muiden koulutuksen järjestäjän lakisääteisten tehtävien kanssa.

4. Koulutuksen järjestäjän on tekoälyä käytettäessä varmistettava, että oppijaan ei kohdistu markkinointia, mainontaa tai aatteellista manipulaatiota eikä oppijan kasvun ja kehityksen kannalta haitallisia sisältöjä tai menetelmiä. Käytössä tulee huomioida myös tekoälyä hyödyntävien palveluiden ja sovellusten mahdolliset lakisääteiset tai käyttöehdoista johtuvat ikärajat.

5. Koulutuksen järjestäjän osalta tekoälyjärjestelmän käyttöönotossa on arvioitava, onko kyse hankintalainsäädännön mukaisesta hankinnasta ja tuleeko paikallista hankintaohjetta soveltaa. Koulutuksen järjestäjä suunnittelee ja laatii etukäteen toimintaohjeet siihen, miten erilaisia tekoälyjärjestelmiä voidaan ottaa paikallisesti käyttöön, miten järjestelmien lainmukaisuus varmistetaan ja miten prosessi dokumentoidaan luotettavasti.

Edellä mainitut tarkoittavat esimerkiksi seuraavan lainsäädännön osalta:

Tekoälyasetus

6. Koulutuksen järjestäjän tulee arvioida tekoälyjärjestelmän käyttöönottoa suunniteltaessa, kuuluuko tekoälyjärjestelmä EU:n tekoälyasetuksen soveltamisalaan. Jos EU:n tekoälyasetusta sovelletaan, järjestäjän tulee määrittää järjestelmän käyttötavat ja arvioida järjestelmän riskiluokitus. Järjestäjän tulee arvioida riskiluokituksen perusteella järjestelmän käyttöönoton velvoitteet ja suunnitella niiden toteutus.

7. Koulutuksen järjestäjän tulee parhaansa mukaan toteuttaa toimenpiteitä henkilöstön riittävän tekoälylukutaidon varmistamiseksi, jos sillä on käytössä tekoälyjärjestelmiä, joihin sovelletaan tekoälyasetusta.

Tietosuoja, tietoturva ja tiedonhallinta

8. Harkitessaan tekoälyjärjestelmän käyttöönottoa, koulutuksen järjestäjän on tarkistettava, että järjestelmän tietosuoja, tietoturva ja tiedonhallinta vastaavat lainsäädännön vaatimuksia. Tarkistus on dokumentoitava ja tehtävä ennen järjestelmän käyttöönottoa. Järjestelmän tulee täyttää vaatimukset, kunnes järjestelmän käytöstä luovutaan. Tarkistuksessa tulee huomioida koulutuksen järjestäjän velvoite tehdä tietosuojan vaikutustenarviointi sekä tietosuojaviranomaisen ennakkokuuleminen laissa mainituissa tilanteissa.

9. Koulutuksen järjestäjän tulee ohjeistaa sen henkilöstöä ja oppijoita, että salassa pidettävää tietoa, ei-julkista tietoa tai henkilötietoja ei saa syöttää tekoälyjärjestelmään ennen kuin on varmistettu, että järjestelmä on niiden käsittelyyn tietoturvan, tietosuojan ja tiedonhallinnan vaatimukset täyttävä ympäristö. Näitä tietoja ovat muun muassa nimi, henkilötunnus, sanalliset arvioinnit oppijoista, pedagogiset asiakirjat, terveystiedot ja uskonnolliseen vakaumukseen liittyvät tiedot. On tärkeää huomioida, että henkilötietojen käsite on laaja ja se kattaa esimerkiksi myös oppijan kuvan ja äänen (kuten puhe tai laulu), kun kuva tai ääni on yhdistettävissä oppijaan. Järjestelmä voi myös kerätä laajasti erilaisia tietoja käyttäjästä ja järjestelmän käytöstä (mm. seurantateknologioiden avulla), jotka luokitellaan henkilötiedoksi.

10. Koulutuksen järjestäjän tulee varmistaa, että henkilöstölle ja oppijalle kerrotaan henkilötietojen käsittelystä tiiviissä, läpinäkyvässä, helposti ymmärrettävässä ja selkeässä muodossa kohderyhmän tarpeet ja ikä huomioiden.

Tekijänoikeudet

11. Tekijänoikeuslakia (ml. sen opetusta koskevat pykälät) sovelletaan myös tekoälysovellusten opetuskäyttöön. Koulutuksen järjestäjän velvoitteena on huomioida tekijänoikeuskysymykset tekoälysovelluksia ja -järjestelmiä hankkiessa, käyttöönottaessa ja hallinnoidessa, sekä henkilöstölle tehtävissä linjauksissa.

12. Teosten käyttäminen tekoälyn kouluttamisessa ilman teoksen tekijänoikeuden haltijan lupaa on kielletty. Tekoälysovellukseen voi syöttää tekijänoikeussuojan ulkopuolella olevaa sisältöä, ja avoimia sisältöjä, joiden käytölle ei ole asetettu ehtoja. On olemassa runsaasti tekijänoikeudesta vapaata aineistoa (esim. CC0-lisensoidut aineistot), jotka soveltuvat tekoälyn opetus- ja koulutuskäyttöön.

13. Tekoälyn tuottama sisältö ei yleensä saa tekijänoikeussuojaa, koska se ei täytä ihmisen luovan työn kriteerejä. Lopullisen sisällön tulisi olla pääosin ihmisen luomaa ja täyttää teoskynnyksen vaatimukset saadakseen tekijänoikeussuojan.

Takaisin ylös

1. Koulutuksen järjestäjän tulisi varmistaa, että käyttöönotettavat tekoälyjärjestelmät valitaan niin, että niiden käyttö opetuksessa on pedagogisesti perusteltua ja ne edistävät opetussuunnitelman ja tutkintojen perusteiden mukaisia tavoitteita.

2. Tekoälyjärjestelmän käyttäjien, kuten henkilöstön ja oppijoiden, on tärkeää saada riittävä koulutus tekoälyn vastuulliseen käyttöön.

3. Tekoälyn käytön koulutuksen järjestäjän toiminnassa tulisi olla mahdollisimman avointa ja läpinäkyvää. Henkilöstölle ja oppijoille tulisi kertoa tekoälyn käytöstä, jos tekoälyä käytetään.

4. Koulutuksen järjestäjää suositellaan huomioimaan kestävän kehityksen näkökulmat tekoälyjärjestelmien käyttöönotossa ja ohjeistamaan käyttöä niin, että muun muassa energiankulutus ja sosiaalinen ja taloudellinen kestävyys tulevat huomioiduksi.

5. Koulutuksen järjestäjää suositellaan edellyttämään tekoälyjärjestelmän toimittajilta luotettavaa analyysia tekoälyn algoritmisista ja datapohjaisista vinoumista sekä virhepäätelmistä, jotta mahdolliset vinoumat ja virhepäätelmät olisi tunnistettu ja niiden pohjalta pystytään tulkitsemaan tekoälyn tuotoksia ja tuloksia oikein. Analyysi olisi suositeltavaa edellyttää hyvissä ajoin ennen järjestelmän käyttöönottoa ja sen ajantasaisuutta tulisi seurata tekoälyjärjestelmän käytön aikana.

6. Koulutuksen järjestäjän tulisi huomioida riskit, jotka syntyvät, jos tekoälyyn luotetaan liikaa tai sitä käytetään ilman kriittistä arviointia. Koulutuksen järjestäjän tulisi myös kiinnittää huomiota asianmukaiseen riskienhallintaan erityisesti silloin, jos tekoälyä on tarkoitus käyttää osana kriittisiä järjestelmiä tai toimintoja.

7. Oppimisanalytiikkajärjestelmiä käytettäessä, kehittäessä ja hankittaessa noudatetaan myös Oppimisanalytiikan viitekehyksen ohjeita ja linjauksia.

8. Koulutuksen järjestäjää suositellaan sisällyttämään tekijänoikeudelliset asiat osaksi tekoälyn opetuskäyttöä koskevaa ohjeistustaan.

Takaisin ylös

Yleiset periaatteet

1. Koulutuksen järjestäjä tarjoaa koulutuksessa käytettävät laitteet sekä tekoälyjärjestelmät kuten tekoälyä hyödyntävät palvelut ja sovellukset. Henkilöstö ei voi velvoittaa oppijaa rekisteröitymään tai luomaan omaa tunnusta sellaiseen palveluun tai sovellukseen, joka ei ole koulutuksen järjestäjän tarjoama. Oppijaa ei myöskään voi velvoittaa ostamaan käyttöoikeuksia tällaisiin palveluihin tai sovelluksiin.

2. Jos tekoälyä hyödynnetään apuna arvioinnissa, osaamisen ja oppimisen arvioinnissa tulee noudattaa kunkin koulutusasteen ja -muodon opetussuunnitelmien ja tutkintojen perusteita sekä huomioida, että toiminta saattaa tekoälyasetuksen mukaan olla suuririskistä ja tämän myötä käyttöönottoon liittyy asetuksen mukaisia lisävelvoitteita. Vaikka tekoälyä hyödynnettäisiin apuna arviointiprosessissa, arviointiin liittyvien päätösten tekijän tulee olla arvioinnista vastaava ihminen, eikä arviointiin liittyvää päätöksentekoa voi ulkoistaa tekoälylle.

Tietosuoja, tietoturva ja tiedonhallinta

3. Henkilöstön tulee varmistaa koulutuksen järjestäjän antamista ohjeista, mitä tietoja on luvallista tallentaa tai syöttää tekoälyjärjestelmiin. Salassa pidettävää tietoa, ei-julkista tietoa tai henkilötietoja sisältävää aineistoa ei saa syöttää tekoälyjärjestelmään, ennen kuin koulutuksen järjestäjä on todennut järjestelmän olevan tietoturvan, tietosuojan ja tiedonhallinnan vaatimukset täyttävä ympäristö. Näitä tietoja ovat muun muassa nimi, henkilötunnus, sanalliset arvioinnit oppijoista, pedagogiset asiakirjat, terveystiedot ja uskonnolliseen vakaumukseen liittyvät tiedot. On tärkeää huomioida, että henkilötietojen käsite on laaja ja se kattaa esimerkiksi myös oppijan kuvan ja äänen (kuten puhe tai laulu), kun kuva tai ääni on yhdistettävissä oppijaan. Järjestelmä voi myös kerätä laajasti erilaisia tietoja käyttäjästä ja järjestelmän käytöstä (mm. seurantateknologioiden avulla), jotka luokitellaan henkilötiedoksi.

4. Tekoälyjärjestelmän käyttäjillä eli koulutuksen järjestäjän henkilöstöllä tulee olla ymmärrys käsiteltävien tietojen julkisuudesta ja salassapidosta sekä minkälaisissa tekoälypalveluissa ja sovelluksissa niitä on turvallista käsitellä.

Tekijänoikeus

5. Teosten käyttäminen tekoälyn kouluttamisessa ilman teoksen tekijänoikeudenhaltijan lupaa on kielletty. Tekoälysovellukseen voi syöttää tekijänoikeussuojan ulkopuolella olevaa sisältöä, ja avoimia sisältöjä, joiden käytölle ei ole asetettu ehtoja. On olemassa runsaasti tekijänoikeudesta vapaata aineistoa (esim. CC0-lisensoidut aineistot), jotka soveltuvat tekoälyn opetus- ja koulutuskäyttöön.

6. Tekoälyn tuottama sisältö ei yleensä saa tekijänoikeussuojaa, koska se ei täytä ihmisen luovan työn kriteerejä. Lopullisen sisällön tulisi olla pääosin ihmisen luomaa ja ylittää teoskynnyksen edellyttämät vaatimukset, jotta sisältö saisi tekijänoikeussuojan.

Takaisin ylös

1. Henkilöstön suositellaan käyttävän vain koulutuksen järjestäjän hyväksymiä tekoälyjärjestelmiä.

2. Tekoälyä käytön tulisi olla pedagogisesti perusteltua ja edistää opetussuunnitelman ja tutkintojen perusteiden mukaisia tavoitteita.

3. Tekoälyn käytön koulutuksen järjestäjän toiminnassa tulisi olla mahdollisimman avointa ja läpinäkyvää. Henkilöstölle ja oppijoille tulisi kertoa tekoälyn käytöstä, jos tekoälyä käytetään.

4. Käytettäessä tekoälyä, opettajan ja muun henkilöstön tulisi sopia tekoälyn käytön periaatteista opiskelussa yhdessä oppijoiden kanssa. Käytön tulisi olla avointa, eettistä ja on tärkeää, että oppijat saavat riittävän selkeät ohjeet tekoälyn käytöstä. Jos sovitaan ettei tekoälyä käytetä, oppijoille kerrotaan etukäteen, mitä mahdollisesta tekoälyn hyödyntämisestä tällöin seuraisi.

5. Jos tekoälyjärjestelmää käytetään kasvatuksessa tai koulutuksessa, tulisi varmistaa, että kaikilla käyttäjillä, kuten oppijoilla ja henkilöstöllä, on käyttöönoton kannalta riittävä ymmärrys ja kyky tulkita sekä kriittisesti arvioida tekoälyn tuottamia tuotoksia.

6. Tekoälyä käytettäessä tulisi huomioida tekoälyn mahdolliset virhepäätelmät ja vinoumat sekä niiden vaikutukset. On suositeltavaa keskustella myös oppijoiden kanssa tekoälyn virhepäätelmistä ja vinoumista.

7. Riippumatta käytetyistä tekoälyjärjestelmistä niiden käytön tulisi tuottaa lisäarvoa opettajalle, oppijalle tai molemmille sekä tukea oppimista, osaamista ja kehittymistä mukaan lukien oppijoiden tekoälylukutaidon kehittyminen.

Takaisin ylös