Enligt förordningen avses med ett AI-system ”ett maskinbaserat system som är utformat för att fungera med varierande grad av autonomi och som kan uppvisa anpassningsförmåga efter införande och som, för uttryckliga eller underförstådda mål, drar slutsatser härledda från den indata det tar emot, om hur utdata såsom förutsägelser, innehåll, rekommendationer eller beslut som kan påverka fysiska eller virtuella miljöer ska genereras”.
AI-förordningen tillämpas på alla system som definieras i förordningen.
AI-förordningen har ett riskbaserat förhållningssätt. I förordningen har praxis i anknytning till artificiell intelligens klassificerats i följande kategorier:
- förbjudna AI-användningsområden,
- AI-system med hög risk,
- system med begränsad risk,
- system med låg risk
I förordningen ställs också krav på leverantörer av AI-modeller för allmänna ändamål bland annat i fråga om dokumentation och beskrivning av träningsdata som använts.
Enligt AI-förordningen om ska AI-systemens leverantörer och tillhandahållare efter bästa förmåga vidta åtgärder för att säkerställa att de anställda och andra som ansvarar för verksamheten och driften av AI-systemen har tillräcklig AI-kunnighet. I samband med detta beaktas deras tekniska kunskaper, erfarenhet, utbildning och kontext för användningen av AI-system samt de personer eller persongrupper för vilka AI-systemen ska användas.