Inledning

Syftet med materialet Artificiell intelligens inom småbarnspedagogik och utbildning – lagstiftning och rekommendationer är att hjälpa anordnare av småbarnspedagogik, undervisning och utbildning (i fortsättningen används termen utbildningsanordnare för enkelhetens skull för alla ovannämnda) att utveckla AI-kompetensen samt främja ansvarsfull, säker och innovativ användning av AI. I fortsättningen använder vi i stället för AI-kompetens i regel begreppet AI-kunnighet, som används i Europeiska unionens förordning om artificiell intelligens.

Materialet innehåller skyldigheter som härleds ur lagstiftningen samt allmänna rekommendationer och bakgrundsmaterial i anknytningslutning till dem. Helheten har utarbetats i samarbete mellan undervisnings- och kulturministeriet och Utbildningsstyrelsen och ingår i implementeringen av Finlands Digitala kompass.

I skyldigheterna och rekommendationerna används begreppet artificiell intelligens när man hänvisar till artificiell intelligens allmänt och i stor utsträckning som fenomen och teknologi. Begreppet AI-system används när man hänvisar till utbildningsanordnarens system, tjänster och applikationer som utnyttjar artificiell intelligens. Om en inskrivning endast gäller generativ artificiell intelligens har begreppet generativ artificiell intelligens använts i texten. Bakgrundsmaterialet behandlar olika teman och bör trots en temaspecifik granskning behandlas som en helhet.

Den snabba utvecklingen av artificiell intelligens och det ökade antalet AI-applikationer förutsätter också yrkespersoner inom fostran och utbildning att utveckla pedagogiken, undervisningens mål och innehåll, stödet för lärandet samt bedömningen av lärandet och kunnandet.  Data, automatiskt beslutsfattande och maskininlärning används i stor utsträckning bland annat i sociala medier, bank- och ekonomisektorn, pressen, söktjänster och hybridpåverkan. Teknik som utnyttjar artificiell intelligens och fenomen som bygger på den kan också påverka demokratin och yttrandefriheten i samhället, till exempel genom automatisk censurering och informationsproduktion. I och med att artificiell intelligens blir vanligare lär sätten att lära sig samt uppfattningen om information och kunskap förändras, men utvecklingen kommer inte att eliminera behovet av att lära sig till exempel att läsa, räkna eller behärska kärninnehållet i olika läroämnen.

Att förstå den artificiella intelligensens funktionsmodeller och gestalta dess effekter är utgångspunkten för ansvarsfull, säker och innovativ användning av AI. Detta möjliggör också en kritisk bedömning av möjligheterna att använda artificiell intelligens och dess begränsningar samt en övergripande diskussion om dess fördelar och nackdelar. Lämpligheten och eventuella olägenheter av användningen av artificiell intelligens ska bedömas i olika situationer. Det är viktigt att artificiell intelligens i sig ses som föremål för lärande. Eleverna ska bland annat stödas i att utveckla sin AI-kunnighet och sina färdigheter i att använda artificiell intelligens samt i att vara kritiska mot AI-produkter med hänsyn till elevernas ålder och målen för lärandet. När AI-system tas i bruk ska man säkerställa att användarna har tillräcklig förståelse för och förmåga att tolka samt kritiskt bedöma de resultat som den artificiella intelligensen producerar.

Artificiell intelligens inom småbarnspedagogik och utbildning – lagstiftning och rekommendationer uppdateras efter hand, eftersom AI-tekniken utvecklas i allt snabbare takt och möjligheterna att tillämpa den på olika delområden i samhället ökar kontinuerligt. Dessutom kan rekommendationerna och anvisningarna preciseras när vi får mer forskningsdata och praktisk erfarenhet av att använda artificiell intelligens i utbildningen.

 

Allmänna principer

1. Utbildningsanordnarens uppgift är att dra upp riktlinjer för användningen av artificiell intelligens i den egna organisationens verksamhet, såsom studieadministrationen, undervisningen, lärandet och handledningen. Det är också utbildningsanordnarens uppgift att bedöma om det behövs introduktion och anvisningar för personalen.

2. Utbildningsanordnaren ansvarar för att de AI-system som utbildningsanordnaren erbjuder eller anskaffar för användning inom utbildningsanordnarens verksamhet är lagenliga. Utbildningsanordnaren ska bedöma de lagstadgade skyldigheterna (bl.a. i AI-förordningen, dataskyddsförordningen, dataskyddslagen, upphovsrättslagen, informationshanteringslagen, förvaltningslagen, lagen om tillhandahållande av digitala tjänster, upphandlingslagstiftningen, diskrimineringslagen, jämställdhetslagen samt tillämpliga speciallagar inom förvaltningsområdet, såsom lagen om småbarnspedagogik, lagen om grundläggande utbildning, gymnasielagen, lagen om yrkesutbildning, lagen om utbildning som handleder för examensutbildning, lagen om fritt bildningsarbete och lagen om grundläggande konstundervisning) och hur de beaktas i det praktiska genomförandet. 

3. Användningen av artificiell intelligens ska följa de riksomfattande läroplanerna och examensgrunderna samt de lokala planer som utarbetats utifrån dem och utbildningsanordnarens övriga lagstadgade uppgifter.

4. När AI används ska anordnaren se till att eleven inte utsätts för marknadsföring, reklam, ideell manipulering eller innehåll eller metoder som är skadliga med tanke på elevens ålder och utveckling. I användningen ska man också beakta eventuella lagstadgade åldersgränser eller åldersgränser som beror på användarvillkoren för tjänster och applikationer som utnyttjar artificiell intelligens.

5. I fråga om utbildningsanordnaren ska man vid införandet av ett AI-system bedöma om det är fråga om upphandling enligt upphandlingslagstiftningen och om den lokala upphandlingsanvisningen ska tillämpas. Utbildningsanordnaren planerar och utarbetar på förhand anvisningar för hur olika AI-system kan tas i bruk lokalt, hur systemens lagenlighet säkerställs och hur processen dokumenteras på ett tillförlitligt sätt.

Ovannämnda avser till exempel för följande lagstiftnings del:

AI-förordningen

6. Vid planeringen av införandet av ett AI-system ska utbildningsanordnaren bedöma om AI-systemet omfattas av EU:s AI-förordning. Om EU:s AI-förordning tillämpas ska anordnaren fastställa systemets användningssätt och bedöma systemets riskklassificering. Utifrån riskklassificeringen ska anordnaren bedöma skyldigheterna i samband med att ta i bruk systemet och planera hur de ska genomföras.

7. Utbildningsanordnaren ska vidta åtgärder efter bästa förmåga för att säkerställa de anställdas tillräckliga AI-kunnighet om de använder AI-system som omfattas av AI-förordningen.

Dataskydd, datasäkerhet och informationshantering

8. När utbildningsanordnaren överväger att ta i bruk ett AI-system ska anordnaren kontrollera att systemets dataskydd, datasäkerhet och informationshantering motsvarar de lagstadgade kraven. Kontrollen ska dokumenteras och göras innan systemet tas i bruk. Systemet ska uppfylla kraven tills användningen av systemet upphör. I granskningen ska man beakta anordnarens skyldighet att göra en konsekvensbedömning av dataskyddet samt ordna ett förhandssamråd med dataskyddsmyndigheten i de situationer som nämns i lagen.

9. Utbildningsanordnaren ska ge personalen och eleverna anvisningar om att sekretessbelagd information, icke-offentlig information eller personuppgifter inte får matas in i AI-systemet förrän man har säkerställt att systemet är en miljö som uppfyller kraven för hanteringen av dessa uppgifter med tanke på dataskydd, datasäkerhet och informationshantering. Sådana uppgifter är bland annat namn, personbeteckning, verbal bedömning av elever, pedagogiska dokument, hälsorelaterade uppgifter och uppgifter om religiös övertygelse Det är viktigt att beakta att begreppet personuppgift är omfattande och också omfattar till exempel elevens bild och röst (såsom tal eller sång) när bilden eller rösten kan kopplas till eleven. Systemet kan också i stor utsträckning samla in olika uppgifter om användarna och systemanvändningen (bl.a. med hjälp av uppföljningsteknik) som klassificeras som personuppgifter.

10. Utbildningsanordnaren ska säkerställa att personalen och eleven informeras om personuppgiftsbehandlingen i ett komprimerat, transparent, lättbegripligt och tydligt format med beaktande av målgruppens behov och ålder.

Upphovsrätt

11. Upphovsrättslagen (inklusive dess paragrafer om undervisning) tillämpas också på användningen av AI-applikationer i undervisningen. Det är utbildningsanordnarens skyldighet att beakta upphovsrättsfrågor vid anskaffning, ibruktagande och administration av AI-applikationer och AI-system samt i personalens riktlinjer.

12. Det är förbjudet att använda verk för att träna artificiell intelligens utan tillstånd av upphovsrättens innehavare. I AI-applikationen kan man mata in innehåll som inte omfattas av upphovsrättsskyddet och öppet innehåll som inte omfattas av villkor för användningen. Det finns rikligt med material som är fritt från immateriella rättigheter (till exempel CC0-licensierat material) som lämpar sig för att användas med AI i undervisning och utbildning.

13. Innehåll som produceras av artificiell intelligens får i allmänhet inte upphovsrättsskydd, eftersom det inte uppfyller kriterierna för människans kreativa arbete. Det slutliga innehållet ska i huvudsak vara skapat av en människa och uppnå verkshöjd för att få upphovsrättsskydd.

Tillbaka upp

1. Utbildningsanordnaren borde säkerställa att de AI-system som tas i bruk väljs så att det är pedagogiskt motiverat att använda dem i undervisningen och att de främjar målen enligt läroplans- och examensgrunderna.

2. Det är viktigt att de som använder AI-systemet, såsom personalen och eleverna, får tillräcklig utbildning i ansvarsfull användning av AI.

3. Användningen av artificiell intelligens i utbildningsanordnarens verksamhet ska vara så öppen och transparent som möjligt. Man ska alltid berätta för personalen och eleverna om att AI används om den används.

4. Det rekommenderas att utbildningsanordnaren beaktar hållbarhetsperspektiven när AI-system tas i bruk och ger anvisningar om hur de ska användas så att bland annat energiförbrukningen och den sociala och ekonomiska hållbarheten beaktas.

5. Det rekommenderas att utbildningsanordnaren förutsätter att leverantörerna av AI-systemet gör en tillförlitlig analys av systemets algoritm- och databaserade snedvridningar samt felslutsatser för att eventuella snedvridningar och felslutsatser ska ha identifierats och att man utifrån dem kan tolka AI:s produkter och resultat på rätt sätt. Det rekommenderas att analysen förutsätts i god tid innan systemet tas i bruk och att man följer upp att det är aktuellt medan AI-systemet används.

6. Utbildningsanordnaren borde beakta de risker som uppstår om man litar för mycket på artificiell intelligens eller om den används utan kritisk bedömning. Utbildningsanordnaren borde också fästa uppmärksamhet vid ändamålsenlig riskhantering i synnerhet om avsikten är att använda artificiell intelligens som ett led i kritiska system eller aktiviteter.

7. Vid användning, utveckling och anskaffning av system för lärandeanalytik iakttas också anvisningarna och riktlinjerna i Referensramen för lärandeanalytik.

8. Det rekommenderas att utbildningsanordnaren inkluderar upphovsrättsliga frågor i sina anvisningar om användning av artificiell intelligens i undervisningen.

Tillbaka upp

Allmänna principer

1. Utbildningsanordnaren tillhandahåller de apparater och AI-system som används i utbildningen, såsom tjänster och applikationer som utnyttjar artificiell intelligens. Personalen kan inte ålägga eleven att registrera sig i och skapa egna inloggningsuppgifter för en tjänst eller applikation som inte erbjuds av utbildningsanordnaren. Man kan inte heller ålägga eleven att köpa användarrättigheter till sådana tjänster eller applikationer.  

2. Om artificiell intelligens utnyttjas som hjälp i bedömningen ska man vid bedömningen av kunnande och lärande följa läroplans- och examensgrunderna för varje utbildningsnivå och utbildningsform samt beakta att verksamheten enligt AI-förordningen kan vara högriskverksamhet vilket innebär att ibruktagandet medför extra förpliktelser i enlighet med förordningen. Även om AI används som hjälp i bedömningsprocessen ska besluten om bedömningen fattas av den person som ansvarar för bedömningen, och beslutsfattandet i anknytning till bedömningen kan inte överlåtas till artificiell intelligens. 

Dataskydd, datasäkerhet och informationshantering

3. Personalen ska kontrollera i utbildningsanordnarens instruktioner vilka uppgifter som får lagras eller matas in i AI-system. Sekretessbelagda uppgifter, icke-offentliga uppgifter eller material som innehåller personuppgifter får inte matas in i AI-systemet förrän utbildningsanordnaren har konstaterat att systemet är en miljö som uppfyller kraven gällande dataskydd, datasäkerhet och informationshantering. Sådana uppgifter är bland annat namn, personbeteckning, verbal bedömning av elever, pedagogiska dokument, hälsorelaterade uppgifter och uppgifter om religiös övertygelse Det är viktigt att beakta att begreppet personuppgift är omfattande och också omfattar till exempel elevens bild och röst (såsom tal eller sång) när bilden eller rösten kan kopplas till eleven. Systemet kan också i stor utsträckning samla in olika uppgifter om användarna och systemanvändningen (bl.a. med hjälp av uppföljningsteknik) som klassificeras som personuppgifter.

4. De som använder AI-systemet, alltså utbildningsanordnarens personal, ska ha förståelse för offentligheten och sekretessen i fråga om de uppgifter som behandlas samt i vilka slags AI-tjänster och applikationer det är tryggt att behandla dem.

Upphovsrätt

5. Det är förbjudet att använda verk för utbildning i artificiell intelligens utan upphovsrättsinnehavarens tillstånd. I AI-applikationen kan man mata in innehåll som inte omfattas av upphovsrättsskyddet och öppet innehåll som inte omfattas av villkor för användningen. Det finns rikligt med material som är fritt från immateriella rättigheter (till exempel CC0-licensierat material) som lämpar sig för att användas med AI i undervisning och utbildning.

6. Innehåll som produceras av artificiell intelligens skyddas i allmänhet inte av upphovsrätt, eftersom det inte uppfyller kriterierna för människans kreativa arbete. Det slutliga innehållet ska i huvudsak vara skapat av en människa och uppnå verkshöjd för att innehållet ska få upphovsrättsskydd.

Tillbaka upp

1. Det rekommenderas att personalen endast använder AI-system som godkänts av utbildningsanordnaren.

2. Användningen av artificiell intelligens borde vara pedagogiskt motiverad och främja målen i läroplans- och examensgrunderna.

3. Användningen av artificiell intelligens i utbildningsanordnarens verksamhet ska vara så öppen och transparent som möjligt. Man ska alltid berätta för personalen och eleverna om att AI används om den används. 

4. När artificiell intelligens används borde läraren och den övriga personalen komma överens om principerna för hur AI används i studierna tillsammans med eleverna. Användningen ska vara öppen och etisk, och det är viktigt att eleverna får tillräckligt tydliga instruktioner om hur artificiell intelligens ska användas. Om man kommer överens om att AI inte används ska eleverna informeras på förhand om vad en eventuell användning av AI skulle leda till.

5. Om ett AI-system används i fostran eller utbildning bör man säkerställa att alla användare, såsom elever och personal, har tillräcklig förståelse för och förmåga att tolka och kritiskt bedöma de resultat som den artificiella intelligensen producerar.

6. Då AI används borde man beakta dess eventuella felaktiga slutsatser och snedvridningar samt deras effekter. Det rekommenderas också att man diskuterar felaktiga slutsatser och snedvridningar vid användning av artificiell intelligens med eleverna. 

7. Oberoende av vilka AI-system som används borde användningen skapa mervärde för läraren, eleven eller båda samt stödja lärandet, kompetensen och utvecklingen, inbegripet utvecklingen av elevernas AI-kunnighet.

 

Tillbaka upp
Updated