Vad är ett AI-system med hög risk?
Enligt AI-förordningen klassas ett AI-system som hög risk om det ska användas som en säkerhetskomponent i en produkt som regleras av EU:s produktsäkerhetslagstiftning. För att AI-systemet ska klassificeras som hög risk krävs dessutom att produkten ska genomgå en tredjepartsbedömning.
Det finns även andra AI-system som enligt AI-förordningen klassas som hög risk. Systemen listas i en särskild bilaga till AI-förordningen (bilaga III) och inkluderar bland annat AI-system för rekrytering, kreditvärdering och AI-baserade lögndetektorer som används av brottsbekämpande myndigheter.
Ett AI-system med hög risk måste uppfylla de krav som AI-förordningen ställer innan det kan tas i bruk eller släppas ut på EU:s marknad. Dessa krav inkluderar bland annat riskbedömningar, transparens och dokumentation.