Tekoäly ja etiikka käytännössä

Tekoälysuositusten taustamateriaalin osiossa Tekoäly ja etiikka koulutuksessa korostetaan eettisen keskustelun ja siihen osallistumisen merkitystä hallinnollisilta tasoilta käytännön tasoille asti sekä esitellään seitsemän eettistä periaatetta, joita tulisi pohtia koulutuksen eri tasoilla. Eettiset periaatteet ovat: 1) Hallinta ja huolehtiminen, 2) Läpinäkyvyys ja vastuullisuus, 3) Kestävyys ja suhteellisuus, 4) Yksityisyys, 5) Turvallisuus ja tietoturva, 6) Osallisuus ja 7) Ihmiskeskeinen tekoäly. Käymme ensiksi läpi näiden periaatteiden taustaa ja toiseksi periaatteita eritellään koulutusalan keskeisten toimijoiden vastuukysymysten näkökulmista.

Tekoälyn ja etiikan kysymykset koulutuksessa kytkeytyvät paitsi tuttuihin teemoihin, kuten vastuullisuuteen ja turvallisuuteen, myös laajemmin koulutuksen arvoperustaan. On siis tärkeää mahdollistaa moniammatillista keskustelua kasvatuksen ja koulutuksen ammattilaisten, tieteen tekijöiden sekä teknologiatoimijoiden välillä. Olennaista tekoälyn etiikassa on pyrkiä toimimaan tekoälyn haittojen minimoimiseksi, mutta myös hyötyjen tunnistamiseksi oppijoiden hyväksi. [1]

Tässä osiossa esitetään tarkennettu versio suositusten taustamateriaalissa olevasta seitsemän kohdan eettisestä kehyksestä ja tarkastellaan sitä a) opetuksen järjestäjän, b) opettajan sekä c) oppijan näkökulmista Suomen koulutusjärjestelmässä. Opettajalla tarkoitetaan tässä opetushenkilöstöä, eli opettajia, kasvattajia sekä ohjaajia. Eettinen pohdinta koskee kaikkia koulun avaintoimijoita.

a) Koulutuksen järjestäjä

Tekoälyjärjestelmien hankintaan ja käyttöön liittyy monia eettisiä kysymyksiä. Koulutuksen järjestäjien on harkittava tarkkaan tekoälyjärjestelmien vastuullista ja yleishyödyllistä käyttöä, erityisesti henkilötietojen käsittelyssä ja ikärajallisissa sovelluksissa. On tärkeää edistää luotettavien tekoälyjärjestelmien hankintaa, kehittämistä ja käyttöönottoa sekä varmistaa, että kaikki käyttäjät (rehtorit, opettajat ja oppijat) saavat riittävän koulutuksen tekoälyn käyttöön ja seurantaan.

Opetuksen järjestäjän on tärkeä mahdollistaa tekoälyn käyttöä koskeva seurantamekanismi. Kollegiaalisten prosessien ja tiedonkulun avulla järjestetään tarvittava kehittämistyö organisaatiossa, jossa arvioidaan sekä turvallisuuteen, tekniseen käyttöön että pedagogiikkaan liittyviä asioita. Tekoälyjärjestelmien käyttäjillä tulisi olla ymmärrys siitä, minkälaisia tietoja on mahdollista käsitellä eri tilanteissa osana opetuksen järjestämistä sekä minkälaisiin tietojärjestelmiin niitä voidaan ilman erillisiä lupia viedä. Opetuksessa käytettyjä aineistoja ovat esim. henkilötiedot, sote-tiedot, oppilasarvioinnin tulokset, lääkärintodistukset ja oppilaiden tuotokset. 

Julkisissa hankinnoissa tulisi valita luotettavia ja ihmiskeskeisiä tekoälyjärjestelmiä, jotka ovat läpinäkyviä sekä noudattavat EU tekoälysäädöskehystä, tietoturvavaatimuksia ja tietosuojakäytäntöjä. Hankintaprosessissa on otettava huomioon myös järjestelmien ympäristömyönteisyys ja sosiaaliset vaikutukset. Hankkijoilla on mahdollisuus ja oikeus vaatia järjestelmiltä läpinäkyvyyttä esim. järjestelmän koulutukseen käytetystä materiaalista, järjestelmän tietosuojauksesta, datan keräämisestä ja tallentamisesta. Lisäksi on tärkeää huomioida järjestelmän monimuotoisuus, esteettömyys, syrjimättömyys ja oikeudenmukaisuus. Kaikilla tulisi olisi olla mahdollisuus käyttää järjestelmiä iästä, sukupuolesta, kyvyistä tai ominaisuuksista riippumatta kiinnittäen erityistä huomiota opiskelijoihin, joilla on erityistarpeita.

On huomioitava, että osa sovelluksista on maksullisia ja niiden lisäominaisuudet ovat parempia. Mikäli tekoälyä odotetaan käytettävän kaikkien oppijoiden työkaluna, on pohdittava sen maksullisuuden vaikutuksia ja mahdollisia epätasa-arvoistavia seurauksia. Vaihtoehtona suurten tekoäly-yritysten palveluille on luoda omia tekoälysovelluksia, jotka toimivat paikallisesti. Näissä käytetään avoimia lisensoituja kielimalleja, joita koulutetaan omilla tiedoilla ja datalla, ja käyttö kohdennetaan omaan yksikköön.

On tärkeää varmistaa etukäteen, että hankittavissa järjestelmissä on mahdollisuus ihmisen suorittamaan seurantaan ja valvontaan myöhemmin ilmenevien riskien poistamiseksi. Lisäksi järjestelmän tulisi mahdollistaa tarvittaessa korjaavat toimenpiteet. Tekoälyjärjestelmien käytön suunnitteluvalinnat, päätökset tiettyjen prosessien automatisoinnista, suorituskyvyn valvonta sekä järjestelmän tuottamien tulosten tarkistaminen ja validointi ovat aina ihmisten päätösvallassa.

b) Opettaja

Tekoälysovellusten sisällyttäminen opetuksessa tulee perustua oppimistavoitteisiin ja siinä on huomioitava oppijoiden tausta ja tarpeet. Riippumatta käytetyistä työkaluista tulisi niiden tuottaa lisäarvoa opettajalle, oppijalle tai molemmille sekä tukea oppimista, osaamista ja kehittymistä. Ihmiskeskeinen näkökulma on tärkeä, ja ihmisen ja tekoälyn yhteistyö eli "yhteisälykkyys" on olennaista. On huomioitava selkeä rajanveto siitä, että tekoälyn ei ole tarkoitus korvata opettajaa ja opettajan roolia.

Tekoälyn käyttöön liittyy myös oppijoiden perusoikeuksiin vaikuttavia haasteita, jotka on otettava huomioon esimerkiksi opetuksen ja arvioinnin suunnittelussa. Tietosuoja- ja yksityisyyskysymykset ovat keskeisiä eettisiä näkökohtia tekoälyn käytössä. Riippuen siitä, mitä tekoälysovelluksia käytetään tai mitä koulutuksen järjestäjä hankkii, kehotteissa käytetyt tiedot voidaan siirtää esimerkiksi yhdysvaltalaisille palvelimille ja käyttää myös kielimallien koulutustietoina. Erityisesti henkilötietojen suhteen on noudatettava erityistä varovaisuutta.

On tärkeää olla tietoinen myös kognitiivisen (tiedostamattoman) helpotuksen riskistä, eli liiallisesta luottamuksesta tekoälyyn, joka voi koskea sekä opettajia että opiskelijoita. Lisäksi on oleellista miettiä, milloin ja miten tekoälyn käyttö tuo lisäarvoa ja milloin ei. Tätä voidaan verrata esimerkiksi keskusteluun pedagogisesta tasapainosta, jota tarvitaan laskimien ja sovelluksien käytössä matematiikan opetuksessa. 

Tekoälyä käyttämällä harkitusti on mahdollista syventää oppimista. Esimerkiksi tukea tarvitsevat oppijat saattavat hyötyä tekoälystä merkittävällä tavalla. Oppijat, joilla on erityistarpeita, voidaan tukea tekoälypohjaisilla ratkaisuilla. Reaaliaikainen tekstitys voi auttaa kuulovammaisia ja äänikuvaus voi tukea näkövammaisia oppijoita. Tällaisten resurssien myötä esteettömyyttä parannetaan ja inklusiivisuutta vahvistetaan.  

Toisaalta eräässä tutkimuksessa [13] havaittiin, että oppijoilla, joilla oli toiminnanohjauksen haasteita, käyttivät generatiivista tekoälyä valmiiden ratkaisujen tuottamiseen esimerkiksi tehtävän jäsentämisen sijaan. Tämä on huolestuttavaa nuorten kognitiivisen kehityksen kannalta. Tutkijat korostivat eroa työelämän ja koulutuksen generatiivisen tekoälyn käytön välillä: työelämässä painotetaan yleensä tuottavuutta, kun taas koulutuksessa oppiminen on keskiössä. 

On tärkeä huomioida, että tekoälyn käyttö arvioinnissa on korkean riskin toimintaa EU:n tekoälyasetuksen mukaan (ks. esim. Taustamateriaali: Tekoäly oppimisen ja osaamisen arvioinnissa ja Tekoälyasetus). Vaikka tekoäly voi auttaa arvioinnissa, opettaja vastaa lopullisesta summatiivisesta arvioinnista ja sen kirjaamisesta. Periaate ihminen-tekoäly-ihminen on tärkeä avoimuuden ja eettisesti kestävän arvioinnin kannalta. Tekoäly voi myös tunnistaa ja minimoida tiedostamattomia ihmisajattelun vinoumia analysoimalla arviointidataa. Esimerkiksi tekoäly voi havaita, saavatko tietyt oppilasryhmät järjestelmällisesti korkeampia tai alempia arvosanoja kuin toiset. Tämä voi auttaa luomaan oikeudenmukaisempia arviointikriteerejä ja varmistamaan, että arviointi on tasapuolista kaikille oppijoille.

Selkeys ja läpinäkyvyys siitä, milloin, miten ja miksi tekoälyä käytetään voivat vähentää ei-toivottuja tekoälyn käyttötapoja.  On tärkeää, että oppijat saavat riittävän tarkat ohjeistukset. Voidaan esimerkiksi käyttää portaittaista skaalaa, jossa oppijat eivät saa käyttää tekoälytukea lainkaan (0 %) tai käyttää teknologiaa vapaasti apunaan (100 %). Ääripäitä yleisempää on, että oppijat voivat käyttää tekosovelluksia joissakin prosessin osissa, kun taas toisissa heidän on suoritettava ilman tekoälysovelluksien tukea. Tekoälyn käytön osuuden tulisi perustua opettajan suunnitteluun ja odotuksiin, ja se voi vaihdella eri tehtävien tai elementtien välillä. 

c) Oppija

Suomalaisen koulutusjärjestelmän opetussuunnitelmat painottavat oppijan toimijuutta, luovuutta, osallisuutta ja aktiivista roolia oppimisprosessissa. Eettisten periaatteiden soveltaminen, joka perustuu lapsen ja oppijan näkökulmaan, tukee oppijoiden mahdollisuuksia osallistua aktiivisesti ja turvallisesti, vaikuttaa omaan oppimiseensa, kehittää luovia taitojaan sekä tuntea kuuluvansa oppimisyhteisöön.

Tekoälyn hyödyntäminen oppimisessa herättää monia eettisiä kysymyksiä, kuten yksityisyyden suojaa, päätöksenteon läpinäkyvyyttä ja oppijan ajattelun ulkoistamista tekoälylle. Oppijan näkökulman huomioon ottaminen voi osaltaan varmistaa, että tekoälyä käytetään oppijan oikeuksia kunnioittaen. Tämä voi lisätä sekä opettajien että oppijoiden luottamusta tekoälypohjaisiin järjestelmiin.

Oppijat ovat yksilöitä, joilla on omat vahvuutensa, heikkoutensa ja tapansa oppia. Tekoäly voi mahdollistaa oppimiskokemusten yksilöllisen räätälöinnin, jolloin oppijan tarpeita tunnistetaan ja niihin vastataan. Tämä voi edistää oppimisen tehokkuutta, omistajuutta sekä oppijoiden motivaatiota ja aktiivisuutta.

Oppijat voivat myös tarjota arvokasta palautetta tekoälyjärjestelmien kehittämiseksi. Oppijoiden palautetta tarvitaan tekoälyjärjestelmien käyttämisessä arjessa ja heidän kanssaan on hyvä yhteisesti arvioida käytössä olevia sovelluksia sekä niiden käyttötapoja ja riskejä.

Tavoitteena oppijan eettisten periaatteiden soveltamisessa on edistää oppijoiden aktiivista ja osallistuvaa roolia hyvinvointia tukevalla tavalla. Siten varmistetaan eettisen ja vastuullisen tekoälyn käytön paikallisia linjauksia opetuksen järjestäjän, koulun johdon ja opettajan kautta aina oppijan arkeen asti.

On tärkeää ensin tehdä oppijoille selväksi, onko generatiivisen tekoälyn käyttö ylipäätään sallittua kyseisessä tehtävässä. Jos tekoälyn tuottama sisältö toimii lähteenä, viittaus tulisi tehdä niin tarkasti ja avoimesti kuin mahdollista. Lukijan tulisi ymmärtää, miten ja millä perusteella viittauksen kohteena oleva sisältö on syntynyt.  Vaikka käytettäisiin muodollisempaa viittaustapaa, on yleensä suositeltavaa, että oppija kertoo vapaamuotoisemmin omin sanoin, miten tekoälyn tulos on tulkittu tai käsitelty ja mihin kohtiin se on käytetty omassa työssään.

a) Vapaamuotoisempi viittaustapa

Tässä avoimuus ja läpinäkyvyys on keskeistä. Oppilas tai opiskelija kertoo omin sanoin, miten tekoälyä on käytetty koulun työssä tai tämän työn eri vaiheissa. 

Malliesimerkki:
Olen käyttänyt generatiivista tekoälyä {Yritys + kielimalli tai järjestelmä} seuraaviin vaiheisiin:

• Esimerkki 1 (ideointiin, suunnitteluun)
• Esimerkki 2 (kielen parantamiseen tai tiivistelmään)
• Esimerkki 3 (tutkimustyön esityksen tekemiseen tai posterin hahmotteluun)
   

b) Muodollinen viittaustapa 

Tässä esimerkkejä tieteelliseen viittaustapaan pohjautuvasta tavasta viitata tekoälyn tuottamaan sisältöön lähdeluettelossa. [14] [15]

• Kun halutaan sisällyttää kehote mukaan (Chicago-malli): 
  {Tekoälyjärjestelmän nimi, vastaus kehotteeseen "Miten käytän viitettä, jos hyödynnän tekoälysovellusta omassa koulutyössä"}, {Yritysnimi}, {Viittauksen päivämäärä}, {Tekoälyjärjestelmän URL}.
   
• Kun viittaus käytyyn keskusteluun kielimallin kanssa (APA-malli). {Yritysnimi}. { (Kielimallin version vuosi) }. {Tekoälyjärjestelmän nimi (keskustelun päivämäärä)} {[Large language model]}.{Tekoälyjärjestelmän URL}
   

• Kun suora viittaus linkillä käytyyn keskusteluun on mahdollinen (APA-malli): 
  {Yritysnimi}. {Viittauksen päivämäärä}. {Keskustelun nimi kursivoituna} { [Kuvaus hakasulkeisiin, esim. generatiivisen tekoälyn keskustelu] }. {Sovelluksen nimi ja malli}. {Keskustelun URL}.

  Huomaa: Tämän version käytössä on syytä huomioida tietosuojan ja yksityisyyden periaatteet.