Artificiell intelligens och etik i praktiken

Avsnittet Artificiell intelligens och etik i utbildningen i bakgrundsmaterialet för AI-rekommendationerna betonar betydelsen av etisk diskussion och deltagandet i den från administrativ till praktisk nivå, och presenterar sju etiska principer som bör beaktas på olika utbildningsnivåer. De etiska principerna är: 1) Ledning och förvaltning, 2) Transparens och ansvarsfullhet, 3) Hållbarhet och proportionalitet, 4) Integritet, 5) Säkerhet och dataskydd, 6) Inkludering och 7) Människocentrerad artificiell intelligens. För det första kommer vi att gå igenom bakgrunden till dessa principer, och för det andra kommer principerna att analyseras ur perspektivet av ansvarsfrågor hos nyckelaktörerna inom utbildningssektorn.

Frågor om artificiell intelligens och etik inom utbildning är kopplade inte bara till välkända teman, såsom ansvar och säkerhet, utan också till utbildningens värdegrund i stort. Det är därför viktigt att möjliggöra multiprofessionella diskussioner mellan utbildningsexperter, forskare och aktörer inom teknologi. Det är avgörande inom artificiell intelligens att sträva efter att minimera nackdelarna med artificiell intelligens, men också identifiera fördelarna till förmån för eleverna och de studerande. [1]

I den här delen presenteras en mer detaljerad version av det etiska ramverk med de sju punkterna som ingår i bakgrundsmaterialet till AI-rekommendationerna. Vi granskar ramverket utifrån a) utbildningsanordnarens, b) lärarens och c) elevens perspektiv inom det finländska utbildningssystemet. Med lärare avses här undervisningspersonal, dvs. lärare, handledare och övrig pedagogisk personal. Den etiska reflektionen gäller alla nyckelaktörer i skolan.

a) Utbildningsanordnaren

Anskaffningen och användningen av AI-system är förknippad med många etiska frågor. Anordnarna av utbildning ska noggrant överväga hur man kan använda AI-system på ett ansvarsfullt och allmännyttigt sätt, i synnerhet när det gäller behandling av personuppgifter och åldersbegränsade applikationer. Det är viktigt att främja anskaffningen, utvecklandet och ibruktagandet av tillförlitliga AI-system samt säkerställa att alla användare (rektorer, lärare och elever) får tillräcklig utbildning i användning och uppföljning av AI.

Det är viktigt att utbildningsanordnaren möjliggör en uppföljningsmekanism för användningen av AI. Genom kollegiala processer och informationsutbyte ordnas det utvecklingsarbete som behövs i organisationen där frågor som gäller säkerhet, tekniskt bruk och pedagogik bedöms. AI-systemens användare ska förstå vilka uppgifter som är möjliga att behandla i olika situationer som del av anordnandet av utbildning, samt i vilka datasystem de kan föras in utan separat tillstånd. Material som används i undervisningen är till exempel personuppgifter, social- och hälsovårdsuppgifter, resultaten av elevbedömningen, läkarintyg och elevernas produkter. 

I offentliga upphandlingar bör man välja tillförlitliga och människocentrerade AI-system som är transparenta och följer EU:s regelverk för artificiell intelligens, informationssäkerhetskrav och dataskyddspraxis. I upphandlingsprocessen ska man också beakta systemens miljövänlighet och sociala effekter. Upphandlarna har möjlighet och rätt att kräva att systemen är transparenta till exempel vad gäller materialet som använts för att träna systemet, systemets dataskydd samt dess insamling och lagring av data. Dessutom är det viktigt att beakta systemets mångsidighet, tillgänglighet, icke-diskriminering och rättvisa. Alla ska kunna använda systemen oberoende av ålder, kön, förmåga eller egenskaper, och särskild uppmärksamhet ska fästas vid elever och studerande med särskilda behov.

Man bör observera att vissa applikationer är avgiftsbelagda och att deras tilläggsegenskaper är bättre. Om AI-systemet förväntas användas som ett verktyg för alla elever måste man fundera på effekterna av att det är avgiftsbelagt och eventuella konsekvenser som orsakar bristande jämlikhet. Ett alternativ till tjänster som är producerade av stora AI-företag är att skapa egna AI-applikationer som fungerar lokalt. I dessa används öppna licensierade språkmodeller som tränas med egna uppgifter och data, och användningen riktas till den egna enheten.

Det är viktigt att på förhand säkerställa att det i de system som skaffas är möjligt att utföra mänsklig uppföljning och övervakning för att eliminera risker som framkommer senare. Systemet ska dessutom vid behov möjliggöra korrigerande åtgärder. Planeringsval för användningen av AI-system, beslut om automatisering av vissa processer, övervakning av prestanda samt granskning och validering av resultaten som systemet producerar är alltid under människors beslutanderätt.

b) Läraren

Inkluderingen av AI-applikationer i undervisningen ska grunda sig på målen för lärandet och beakta elevernas bakgrund och behov. Oberoende av vilka verktyg som används bör de skapa mervärde för läraren, eleven eller båda samt stödja lärandet, kompetensen och utvecklingen. Det människocentrerade perspektivet är viktigt, och samarbetet mellan människan och AI, det vill säga ”samintelligens”, är väsentligt. Man bör beakta en tydlig gränsdragning i att AI inte är avsedd att ersätta läraren och lärarens roll.

Användningen av AI är också förknippad med utmaningar som påverkar elevernas grundläggande fri- och rättigheter och som ska beaktas till exempel i planeringen av undervisningen och bedömningen. Dataskydds- och integritetsfrågor är centrala etiska aspekter i användningen av AI. Beroende på vilka AI-applikationer som används eller vad utbildningsanordnaren anskaffar kan de uppgifter som används i promptarna överföras till exempelvis amerikanska servrar och även användas som träningsdata för språkmodeller. Särskilt när det gäller personuppgifter ska särskild försiktighet iakttas.

Det är också viktigt att vara medveten om risken för kognitiv (omedveten) avlastning, dvs. överdriven tillit till AI, som kan gälla både lärare och studerande. Dessutom är det viktigt att fundera på när och hur användningen av AI ger mervärde och när den inte gör det. Detta kan till exempel jämföras med diskussionen om den pedagogiska balansen som behövs för att använda räknare och applikationer i matematikundervisningen. 

Genom att använda AI med eftertanke är det möjligt att fördjupa lärandet. Till exempel kan elever som behöver stöd ha betydande nytta av AI. De elever som har särskilda behov kan stödas med AI-baserade lösningar. Textning i realtid kan hjälpa studerande med nedsatt hörsel och ljudbeskrivning kan stödja elever med nedsatt syn. I och med sådana resurser förbättras tillgängligheten och stärks inkluderingen.   

Å andra sidan observerades i en undersökning [13] att elever som hade utmaningar med exekutiva funktioner använde generativ AI för att producera färdiga lösningar i stället för att till exempel strukturera uppgiften. Detta är oroväckande med tanke på ungas kognitiva utveckling. Forskarna betonade skillnaden mellan användning av generativ AI i arbetslivet och utbildningen: i arbetslivet betonas i allmänhet produktiviteten, medan lärandet är fokusen för utbildningen. 

Det är viktigt att observera att användningen av AI i bedömningen är högriskverksamhet enligt EU:s AI-förordning (se till exempel Bakgrundsmaterialet: Artificiell intelligens i bedömning av lärande och kunnande och AI-förordningen). Även om AI kan hjälpa med bedömningen ansvarar ändå läraren för den slutliga summativa bedömningen och registreringen av den. Principen människa-AI-människa är viktig med tanke på öppenheten och en etiskt hållbar bedömning. AI kan också identifiera och minimera omedvetna snedvridningar i det mänskliga tänkandet genom att analysera bedömningsdata. AI kan till exempel upptäcka om vissa elevgrupper systematiskt får högre eller lägre vitsord än andra. Detta kan bidra till att skapa rättvisare bedömningskriterier och säkerställa att bedömningen är jämlik för alla elever.

Tydlighet och transparens i fråga om när, hur och varför AI används kan minska oönskade användningssätt för AI.  Det är viktigt att eleverna får tillräckligt noggranna anvisningar. Man kan till exempel använda en stegvis skala där eleverna inte alls får använda AI-stöd (0 %) eller de fritt får ta hjälp av teknologi (100 %). Vanligare än ytterligheterna är att eleverna kan använda AI-applikationer i vissa delar av processen, medan de måste genomföra andra utan stöd av AI-applikationer. AI-användningens andel ska grunda sig på lärarens planering och förväntningar, och den kan variera mellan olika uppgifter eller element. 

c) Eleven

OBS I denna text avser vi med ”elev” också den studerande inom andra stadiets utbildning. 

Det finländska utbildningssystemets läroplaner betonar elevens aktörskap, kreativitet, delaktighet och aktiva roll i lärprocessen. Tillämpningen av de etiska principerna, som grundar sig på barnets och elevens perspektiv, stöder elevernas möjligheter att delta aktivt och tryggt, påverka sitt eget lärande, utveckla sina kreativa färdigheter samt känna att hen tillhör lärgemenskapen.

Utnyttjandet av AI i lärandet väcker många etiska frågor till exempel gällande integritetsskydd, transparens i beslutsfattandet och överföring av elevens tänkande till AI. Att beakta elevens perspektiv kan säkerställa att AI används med respekt för elevens rättigheter. Detta kan öka både lärarnas och elevernas tillit till AI-baserade system.

Elever är individer som har sina egna styrkor, svagheter och sätt att lära sig. AI kan göra det möjligt att skräddarsy individuella lärupplevelser, varvid elevens behov identifieras och tillgodoses. Detta kan främja effektiviteten och ägarskapet i lärandet samt elevernas motivation och aktivitet.

Eleverna kan också erbjuda värdefull respons för att utveckla AI-systemen. Respons från eleverna behövs för att använda AI-system i det dagliga livet, och det är bra att tillsammans med dem utvärdera de applikationer som används samt deras användningssätt och risker.

Målet med tillämpningen av de etiska principerna för elever är att främja elevernas aktiva och deltagande roll på ett sätt som stöder välbefinnandet. På så sätt säkerställs etiska och ansvarsfulla lokala riktlinjer för användning av AI via utbildningsanordnaren, skolans ledning och läraren ända till elevens vardag.

Det är viktigt att först klargöra för eleverna eller de studerande om användning av generativ AI överhuvudtaget är tillåten i den aktuella uppgiften. Om AI-genererat innehåll fungerar som källa bör referensen vara så korrekt och transparent som möjligt. Läsaren bör förstå hur och på vilken grund det hänvisade innehållet skapades.  Även om en mer formell referensteknik används, rekommenderas det vanligtvis att eleven eller den studerande förklarar på ett mer informellt sätt med egna ord hur resultatet av den artificiella intelligensen har tolkats eller bearbetats och för vilka delar det har använts i det egna arbetet.

a) En mer fri referensform

I den här mer informella hänvisningsformen är öppenhet och transparens centralt. Eleven eller den studerande berättar med egna ord hur AI har använts i ett arbete eller i olika skeden av arbetet.

Typexempel:
Jag har använt generativ AI {Företag + språkmodell eller system} i följande skeden:

• Exempel 1 (vid idéutvecklingen, för planering)
• Exempel 2 (för att förbättra språket eller för att göra ett sammandrag)
• Exempel 3 (för att göra en presentation av forskningsarbetet eller ett utkast till en poster)
   

b) Formell referensform

Här följer några exempel på hur man i en källförteckning hänvisar till AI-genererat innehåll enligt en vetenskaplig referensteknik.  [14] [15]

• När du vill inkludera en prompt  (Chicago-systemet): 
  {AI-systemets namn, svar på prompten "Hur använder jag en referens om jag utnyttjar en AI-applikation i mitt eget skolarbete?"}, {Företagsnamn}, {Datum för hänvisning}, {AI-systemets URL}.
   
• När du gör en referens till en diskussion med en språkmodell (APA-systemet):
  {Företagsnamn}. { (År för språkmodellens version) }. {AI-systemets namn (Datum för konversationen)} {[Large language model]}. {AI-systemets URL}
   

• När en direkt referens till en diskussion med en länk är möjlig (APA-systemet): 
  {Företagsnamn}. {Datum för hänvisning}. {Diskussionens namn i kursiv stil} { [Beskrivning inom hakparentes, t.ex. en diskussion med generativ AI] }. {Applikationens namn och modell}. {Diskussionens URL}.

  Observera: Om du använder det sistnämnda systemet bör du följa principerna för dataskydd och integritet.