27.5.2025 Tekoälyn vinoumat ja virhepäätelmät
Lisätty kursivoitu kohta: Tekoälyn lainmukainen, turvallinen, luotettava ja oikeudenmukainen hyödyntäminen kasvatuksessa ja koulutuksessa edellyttää, että sen käyttäjät ymmärtävät, mitä tekoäly on, minkälaisia virhepäätelmiä tekoäly voi tehdä ja millaisia vinoumia (bias) tekoälyn tuotoksissa voi esiintyä sekä tekoälyn liitynnän syrjimättömyyteen, yhdenvertaisuuteen ja tasa-arvoon.
Lisätty kursivoitu kohta: Kyky tunnistaa tekoälyn ja sen käytön virhepäätelmiä ja vinoumia sekä ehkäistä syrjintää on keskeinen osa kasvatuksen ja koulutuksen organisaatioiden tekoälyvalmiuksia.
Lisätty kursivoitu kohta: Erityisesti tekoälypohjaista oppimisanalytiikkaa käytettäessä koulutuksen järjestäjien olisi hyvä edellyttää järjestelmien toimittajilta luotettavaa analyysia tekoälyn algoritmisista ja datapohjaisista vinoumista, jotta mahdolliset vinoumat olisi tunnistettu ja niiden pohjalta pystytään tulkitsemaan tekoälyn tuotoksia ja tuloksia oikein sekä estämään syrjintää.
Lisätty kursivoitu kohta: Tekoälyn käyttämä opetusdata voi olla koottu toisesta kontekstista tai populaatiosta ja sitä sovelletaan nykyiseen tilanteeseen ja populaatioon. Toisaalta vinoumat voivat johtua yhtä hyvin myös käyttäjän tulkinnoista. Vinoumat voivat aiheuttaa syrjintää ja syventää rakenteellista epäyhdenvertaisuutta ja epätasa-arvoa.
Alaotsikon korjaus: Tekoälyn virhepäätelmät ja vinoumat sekä syrjintäriskit voidaan karkeasti jakaa:
Alaotsikon korjaus: Tekoälyn käytössä vinoumiin ja virhepäätelmiin sekä syrjintäriskeihin vaikuttavat esimerkiksi
Lisätty kursivoitu kohta: Algoritmien kehittäminen ja tekoälymallin kouluttaminen sekä testaus ja jälkiprosessointi vaikuttavat suuresti siihen, onko algoritmeissa ja tekoälyn toiminnassa vinoumia sekä mahdollisesti kielteisiä yhdenvertaisuusvaikutuksia kuten syrjintää.
Korjauksia ja lisäyksiä: Tekoälymallin pohjana käytetty data saattaa kuvata mennyttä aikaa, vanhaa tilannetta ja rakenteita ja siten soveltuu huonosti selittämään nykyistä kontekstia. Esimerkiksi aikaisemmin kerätty data voi heijastaa yhteiskunnassa aikaisemmin tai nykyään esiintyviä asenteita, syrjintäperusteisiin liittyvää epäyhdenvertaisuutta tai sukupuolten epätasa-arvoista asemaa. Toisaalta myös koulutusjärjestelmän muutosten ja opetussuunnitelmien uudistuksen jälkeen on tarkoin arvioitava, miten aikaisempi data oppijoista soveltuu nykytilanteeseen. Ydinkysymys on, että kuinka hyvin historian pohjalta voi ennustaa tulevaisuutta? Lisäksi on huomioitava, että lakisääteiset yhdenvertaisuuden ja tasa-arvon edistämisvelvoitteet edellyttävät koulutuksen ja varhaiskasvatuksen järjestäjiä aktiivisin toimin poistamaan epäyhdenvertaisuutta. Yksi keino edistää yhdenvertaisuutta ja tasa-arvoa on positiivinen erityiskohtelu.
Lisäys: Tekoälymallin yhdenvertaisuusauditoinnissa ja -testauksessa on olennaista huomioida kansallisen yhdenvertaisuus- ja tasa-arvolainsäädännön lähtökohdat ja velvoitteet. Kansainvälisesti käytetyt menetelmät eivät välttämättä ole yhdenmukaisia kansallisen yhdenvertaisuus- ja tasa-arvosääntelyn kanssa.
27.5.2025 Tekoälysuositusten tausta-aineisto
Lisätty puuttuuneet linkit.
27.5.2025 Tausta-aineisto: Tekijänoikeus tekoälyn opetuskäytössä ja kehittämisessä
Korjaus: Osassa sovelluksista voi estää syötetyn aineiston käytön koulutusdatana. Esto on tärkeä tehdä ennen käyttöönottoa.
19.8.2025 Lainsäädäntö ja suositukset
Lisäys koulutuksen järjestäjän velvoitteisiin: Koulutuksen järjestäjän on edistettävä yhdenvertaisuutta ja tasa-arvoa toiminnassaan aktiivisesti sekä varmistettava, ettei tekoälyn käytöstä aiheudu lainvastaista syrjintää, esimerkiksi algoritmien tai datan vinoumien vuoksi. (Huomioi muuttunut numerointi.)
19.8.2025 Tekoälysuositusten tausta-aineisto: Tekoälyasetus
Korjaus koulutuksen järjestäjän suosituksiin: 5. Koulutuksen järjestäjää suositellaan edellyttämään tekoälyjärjestelmän toimittajilta luotettavaa analyysia tekoälyn algoritmisista ja datapohjaisista vinoumista sekä virhepäätelmistä, jotta mahdolliset vinoumat ja virhepäätelmät olisi tunnistettu ja niiden pohjalta pystytään tulkitsemaan tekoälyn tuotoksia ja tuloksia oikein sekä ehkäisemään syrjintää. Analyysi olisi suositeltavaa edellyttää hyvissä ajoin ennen järjestelmän käyttöönottoa ja sen ajantasaisuutta tulisi seurata tekoälyjärjestelmän käytön aikana.
19.8.2025 Tekoälysuositusten tausta-aineisto: Tekoälyasetus
Lisäys väliotsikon alle: Suuririskisiä järjestelmiä ovat liitteen III mukaan esimerkiksi:
Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi opiskelijoiden tarkkailuun ja kielletyn käyttäytymisen havaitsemiseen kokeiden aikana varhaiskasvatuksessa, koulutuksessa tai niiden yhteydessä kaikilla tasoilla.
