Bakgrundsmaterial: Artificiell intelligens och etik i utbildningen

De internationella etiska principerna för artificiell intelligens inom utbildningsområdet grundar sig på allmänt accepterade värderingar, såsom säkerhet, rättvisa, ansvarsfullhet, transparens och människocentrering.  Dessa principer är inte exakta regler, utan de erbjuder riktlinjer som gör det möjligt för olika aktörer, såsom regeringar, utbildningsanordnare och teknikföretag, att utveckla sin egen praxis. Principerna grundar sig på internationell konsensus som främjas inom utbildningsområdet av UNESCO, EU, OECD. Samma konsensus förmedlas i stor utsträckning även i andra organisationers och olika staters egna riktlinjer.

De etiska principerna utgår från tanken att artificiell intelligens kan vara en väsentlig del av utbildningen och förbättra dess kvalitet. Kritiskhet och förståelse för risker hör till etiken, eftersom även den mest positiva tillämpningen av artificiella intelligensen alltid medför etiska risker som ska identifieras. På så sätt kan man uppnå en öppen, förstådd och demokratisk grund till exempel för att utveckla pedagogiken i anknytning till artificiell intelligens. Följande teman betonas i de internationella etiska principerna för artificiell intelligens inom utbildningsområdet [1]. 

1. Ledning och förvaltning: Man betonar det tvärvetenskapliga perspektivet och beaktandet av alla relevanta etiska aspekter. Man övar på att på ett tillförlitligt och öppet sätt ta i bruk och tillämpa AI-system.

2. Transparens och ansvarsfullhet: Man kräver att databehandlingen och algoritmernas funktion är transparenta och förklarliga. Ansvarsfullhet förutsätts hos de aktörer som deltar i planeringen och användningen av AI-system där principen om dataminimering används och eventuella biverkningar rapporteras.

3. Hållbarhet och proportionalitet: Planeringen och användningen av AI-system ska vara förenlig med hållbar utveckling och stå i proportion till helheten, med beaktande av användarnas välbefinnande.

4. Integritet: Kärnan i integriteten är att skydda personens uppgifter, vilket konkretiseras genom tillit. Användaren ska kunna lita på att hens uppgifter används på ett ansvarsfullt sätt och i enlighet med hens intressen, till exempel för att utveckla kompetensen. Ur ett etiskt perspektiv är det viktigt att granska hur detta förtroende kan stärkas i användningen av systemen och hanteringen av personuppgifter, såsom i fråga om eventuella samtycken.

5. Säkerhet och dataskydd: AI-systemen ska planeras och tillämpas så att de skyddar data mot cyberbrott och dataintrång. Som en del av implementeringen genomförs en övervaknings- och utvärderingsmekanism samt säkerhetsanvisningar.
   
   
6. Inkludering: Vid designen, utvecklingen och ibruktagandet av AI-system beaktas användningen av tillgänglig, rättvis och jämlik artificiell intelligens. Icke-diskriminering och opartiskhet säkerställer en jämlik användning.
   
   
7. Människocentrerad artificiell intelligens: Målet med användningen av AI-system borde vara att komplettera och förbättra människans kognitiva, sociala och kulturella förmågor samt att skydda människans autonomi utan risk för manipulation. AI-användarnas valfrihet bör bevaras och människans kontroll över AI-baserade processer tryggas.

Med tanke på de etiska riktlinjerna är det viktigt att identifiera aktörer med anknytning till artificiell intelligens vars ansvarsområden i verksamhet med anknytning till artificiell intelligens förklaras på ett begripligt sätt. Till exempel i fråga om människocentrering kunde man fundera närmare på vems verksamhet, på vilket sätt och i vilken situation man kunde främja genomförandet av människocentrerad artificiell intelligens. Att koppla detta till vardagliga frågors nivå gör de frågor som ingår i de etiska ramarna mer identifierbara för olika aktörer. För att förverkliga etiken behövs samarbete mellan hela kedjan, från en mer abstrakt nivå till en konkret nivå.

När det gäller generativ artificiell intelligens finns det särskilt kritiska teman, och medvetenhet om dessa stöder genomförandet av etisk utvärdering. Syftet med dessa är inte att förhindra tillämpningen av generativ AI, utan att väcka medvetenhet och etisk diskussion. Målet med den etiska utvärderingen är alltid att tillämpning av generativ AI som beaktar utmaningarna och riskerna i slutändan ska göra den bättre. UNESCO [2] har identifierat åtta centrala diskussionsämnen om generativ AI i utbildning och forskning.

• Frågan om digital fattigdom: Endast få företag och stater har möjlighet att skapa och kontrollera generativ AI, vilket fördjupar den digitala klyftan och ojämlikheten globalt.
  
  
• Regleringsramarnas långsamhet: Den snabba utvecklingen av generativ AI utmanar lagstiftningen, som inte alltid hänger med tekniken, så det kan uppstå regleringstomrum.
  
  
• Användning av innehåll utan tillstånd: Träningsdata för generativa AI-modeller kan innehålla material som har samlats in utan tillstånd av upphovsrättens innehavare.
  
  
• Oförklarliga modeller: Generativa AI-modeller fungerar som ”svarta lådor”, vilket gör det svårt att förstå deras funktion. Detta kan leda till fördomar och manipulation.
  
  
• Innehåll som skapats av AI och förorening av internet: Generativa AI-modeller kan sprida diskriminerande fördomar eller fel, vilket försämrar tillförlitligheten hos informationen på lång sikt.
  
  
• Avståndet från generativ AI till den verkliga världen: I verkligheten förstår inte generativ AI människan och världen, utan den upprepar språket som förekommer i träningsdata med hjälp av matematiska modeller.
  
  
• Försvagad diversitet: Den generativa artificiella intelligensens svar grundar sig på sannolikheter, vilket kan leda till ensidighet, genomsnitt och därmed minskad mångfald.
  
  
• Fördjupning av deepfake-fenomenet: Utvecklingen av deepfake-teknologin gör det möjligt att skapa realistiska video- och bildredigeringar, vilket kan leda till att desinformation sprids och integriteten kränks.