Tausta-aineisto: Tekoäly ja etiikka koulutuksessa

Tekoälyä koulutusalalla koskevat kansainväliset eettiset periaatteet perustuvat yleisesti hyväksyttyihin arvoihin, kuten turvallisuuteen, oikeudenmukaisuuteen, vastuullisuuteen, läpinäkyvyyteen ja ihmiskeskeisyyteen.  Nämä periaatteet eivät ole tarkkoja sääntöjä, vaan ne tarjoavat suuntaviivoja, joiden avulla eri tahot, kuten hallitukset, opetuksen järjestäjät ja teknologiayritykset, voivat kehittää omia käytäntöjään. Nämä periaatteet perustuvat kansainväliseen konsensukseen, jota koulutusalalla edistävät UNESCO, EU, OECD. Saman konsensus välittyy laajasti muidenkin järjestöjen ja eri valtioiden omissa linjauksissa.

Eettiset periaatteet lähtevät liikkeelle ajatuksesta, että tekoäly voi olla olennainen osa koulutusta ja parantaa sen laatua. Riskien ymmärtäminen ja kriittisyys kuuluu etiikkaan, sillä kaikkein myönteisimmässäkin tekoälysoveltamisessa on aina mukana eettisiä riskejä, jotka tulee tunnistaa. Näin voidaan saavuttaa avoin, ymmärretty ja demokraattinen pohja esimerkiksi pedagogiikan kehittämiselle tekoälyyn liittyen. Kansainvälisissä koulutusalan tekoälyä koskevissa eettisissä periaatteissa korostuvat seuraavat teemat [1].

1. Hallinta ja huolehtiminen: Korostetaan monitieteistä näkökulmaa ja kaikkien eettisten näkökohtien huomioon ottamista. Harjoitetaan luotettavaa ja avointa tekoälyjärjestelmien käyttöönottoa sekä soveltamista.
    
2. Läpinäkyvyys ja vastuullisuus: Vaaditaan datan käsittelyn ja algoritmien toiminnan läpinäkyvyyttä sekä selitettävyyttä. Edellytetään tekoälyjärjestelmien suunnitteluun ja käyttöön osallistuvien toimijoiden vastuullisuutta, jossa hyödynnetään datan minimointiperiaatetta ja raportoidaan mahdollisista haittavaikutuksista.
    
3. Kestävyys ja suhteellisuus: Tekoälyjärjestelmien suunnittelun ja käytön tulee olla kestävän kehityksen mukaista ja suhteutettua kokonaisuuteen, huomioiden käyttäjien hyvinvointi.
    
4. Yksityisyys: Yksityisyyden ydin on henkilön tietojen suojaaminen, mikä konkretisoituu luottamuksen kautta. Käyttäjän on voitava luottaa siihen, että hänen tietojaan hyödynnetään vastuullisesti ja hänen etujensa mukaisesti, esimerkiksi osaamisen kehittämisessä. Etiikan näkökulmasta on tärkeää tarkastella, miten tätä luottamusta voidaan vahvistaa järjestelmien käytössä ja henkilötietojen hallinnassa kuten mahdollisten suostumusten osalta.
    
5. Turvallisuus ja tietoturva: Tekoälyjärjestelmät tulee suunnitella ja soveltaa niin, että ne suojaavat dataa kyberrikoksilta ja tietomurroilta. Implementoinnin osana toteutetaan valvonta- ja arviointimekanismi sekä turvallisuusohjeistus.
    
6. Osallisuus: Tekoälyjärjestelmien suunnittelussa, kehittämisessä ja käyttöönotossa huomioidaan saavutettavan, tasapuolisen ja yhdenvertaisen tekoälyn hyödyntämisen. Syrjimättömyys ja puolueettomuus varmistavat tasa-arvoisen käytön.
    
7. Ihmiskeskeinen tekoäly: Tekoälyjärjestelmien käyttämisen tavoitteena tulisi olla ihmisen kognitiivisten, sosiaalisten ja kulttuuristen kykyjen täydentäminen ja parantaminen sekä ihmisen autonomian suojeleminen ilman riskiä manipuloinnista. On säilytettävä tekoälyn käyttäjien valinnanvapaus ja turvata ihmisen hallinta tekoälypohjaisiin prosesseihin.

Eettisten ohjeiden kannalta tärkeää on tunnistaa tekoälyyn liittyvät toimijat, joiden vastuita tekoälyyn liittyvässä toiminnassa selitetään ymmärrettävällä tavalla. Esimerkiksi ihmiskeskeisyyden suhteen voitaisiin pohtia tarkemmin, että kenen toiminta, millä tavalla ja missä tilanteessa voisi edistää ihmiskeskeisen tekoälyn toteutumista? Arjen kysymysten tasolle kytkeminen herättää eettisten kehysten sisältämät kysymykset tunnistettavammiksi eri toimijoiden kannalta. Etiikan toteutumiseen tarvitaan koko ketjun yhteistyötä abstraktimmalta tasolta konkreettiselle asti.

Generatiivisen tekoälyn kohdalla on olemassa erityisen kriittisiä teemoja, joiden tiedostaminen tukee eettisen arvioinnin toteuttamista. Näiden tarkoitus ei ole estää generatiivisen tekoälyn soveltamista vaan herättää tietoisuutta ja eettistä keskustelua. Eettisen arvioinnin päämäärä on aina se, että haasteita ja riskejä huomioiva generatiivisen tekoälyn soveltaminen tekee siitä lopulta parempaa. UNESCO [2] on tunnistanut kahdeksan keskeistä keskusteluaihetta koskien generatiivista tekoälyä koulutuksessa ja tutkimuksessa.

• Digitaalisen köyhyyden kysymys: Vain harvoilla yrityksillä ja valtioilla on mahdollisuus luoda ja hallita generatiivista tekoälyä, mikä syventää digitaalista kuilua ja epätasa-arvoa globaalisti.
   
• Sääntelykehysten hitaus: Generatiivisen tekoälyn nopea kehitys haastaa lainsäädäntöä, joka ei aina pysy teknologian perässä, joten regulaatiotyhjiöitä saattaa muodostua.
   
• Sisällön käyttö ilman lupaa: Generatiivisten tekoälymallien koulutusdata saattaa sisältää materiaalia, jota on kerätty ilman tekijänoikeuksien haltijoiden lupaa
   
• Selittämättömät mallit: Generatiiviset tekoälymallit toimivat "mustina laatikoina", mikä tekee niiden toiminnan ymmärtämisestä vaikeaa. Tämä voi johtaa ennakkoluuloihin ja manipulaatioon.
   
• Tekoälyn luoma sisältö ja internetin saastuminen: Generatiiviset tekoälymallit voivat levittää syrjiviä ennakkoluuloja tai virheitä, mikä heikentää tiedon luotettavuutta pitkällä aikavälillä.
   
• GenAI:n etäisyys todelliseen maailmaan: Generatiivinen tekoäly ei todellisuudessa ymmärrä ihmistä ja maailmaa, vaan toistaa koulutusdatassa esiintynyttä kieltä matemaattisten mallien avulla.
   
• Diversiteetin sammuttaminen: Generatiivisen tekoälyn vastaukset perustuvat todennäköisyyksiin, mikä voi johtaa yksipuolisuuteen, keskimääräisyyksiin ja siten monimuotoisuuden vähentymiseen.
   
• Deepfake-ilmiön syveneminen: Deepfake-teknologian kehittyminen mahdollistaa realististen video- ja kuvamuokkauksien luomisen, mikä voi johtaa disinformaation leviämiseen ja yksityisyyden loukkaamiseen.