Första delrapporten från pilotprojekt om AI-regulatorisk sandlåda publicerad

Som ett initiativ inom eSam har Bolagsverket, Skatteverket och Arbetsförmedlingen tillsammans med IMY, startat arbetet med en pilot av en AI-regulatorisk sandlåda. AI-förordningen ställer krav på att det i varje medlemsstat ska finnas en sandlåda där AI-system ska kunna tränas och testas i en kontrollerad miljö innan de kan tas i bruk.

– Det här arbetet är så viktigt och vi på IMY är glada att kunna bidra med vår del. Det är bara genom att testa, lära oss och göra om som vi kan skapa förutsättningar för en effektiv innovationsfrämjande regulatorisk sandlåda. Vi myndigheter har en viktig roll att vara proaktiva och ge vägledning, på så sätt ökar vi chanserna till ett hållbart digitaliserat Sverige med stor konkurrenskraft, säger Carin Sundhage, vikarierande stabschef. 

Tvärfunktionellt arbetssätt är avgörande

Under våren har en första iteration av pilotprojektet genomförts. Några av de insikter som framkommit är följande:  

• Det kan vara komplicerat att dra gränserna för omfattningen av ett AI-system, det vill säga vad som är en del av systemet och vad som inte är det. Det avsedda ändamålet för systemet bör stå i centrum.
• En central fråga är att identifiera vilken risknivå ett AI-system tillhör. Det är särskilt betydelsefullt om systemet är ett så kallat högrisksystem, på grund av de särskilda krav som ställs på dessa system.
• Ett tvärfunktionellt arbetssätt är avgörande; en mindre arbetsgrupp som är aktiv ger bättre samverkan. Den kontinuerliga dokumentationen är viktig för att kunna gå tillbaka till tidigare resonemang.

Viktig EU-förordning kräver samverkan

Bolagsverket är en av initiativtagarna till pilotprojektet om AI-regulatorisk sandlåda.

 – Att bedriva ett pilotprojekt om en viktig EU-förordning i riktig samverkan är roligt, utmanande och viktigt. I offentlig förvaltning måste vi ta stöd av varandra och jag tycker att det här är det bästa sättet. Det är ofta när man kommer ned på detaljnivån som man kommer till nödvändig konkretisering. Jag tycker att vi lyckas påvisa flera av de övergripande otydligheterna med AI-förordningen, men också ett sätt att hantera dem. Och kanske också att det i vissa delar är en förordning som har fått ett rykte om sig att vara mer ingripande, än den nog kommer att vara, säger David Magård, strateg på Bolagsverket. 

Pilotprojektet kommer att fortsätta med nya iterationer under hösten.

Ta del av rapporten på eSams webbplats: Delrapport AI-regulatorisk sandlåda  – en första iteration (pdf)