Risker med ansiktsigenkänningsteknik
Utan kännedom om riskerna blir det svårt att vidta lämpliga åtgärder för att användningen ska vara säker, lagenlig och hållbar.
Biometriska uppgifter är oföränderliga
Biometriska uppgifter är speciella eftersom de är en del av oss och unika för varje person. Till skillnad från andra personuppgifter som vi får eller väljer själva, är biometriska uppgifter oföränderliga, även om ålder eller kirurgiska ingrepp kan påverka dem något. Jämfört med lösenord eller användarnamn kan uppgifterna, vid ett missbruk eller förlust av dem, inte enkelt bytas ut.
Biometriska uppgifter innebär särskild risk
Ansiktsigenkänningsteknik kräver att biometriska uppgifter behandlas. Om biometriska uppgifter används för att entydigt identifiera en person är det fråga om en behandling av så kallade känsliga personuppgifter. Andra exempel på känsliga personuppgifter enligt GDPR (artikel 9) är uppgifter om etniskt ursprung, politiska åsikter och uppgifter om hälsa eller sexualliv. Känsliga personuppgifter har ett starkare skydd under dataskyddsförordningen, GDPR.
Enligt GDPR är det förbjudet att behandla känsliga personuppgifter, men det finns undantag från detta förbud. Den rättsliga ramen kring ansiktsigenkänningsteknik och behandling av biometriska uppgifter beskrivs i avsnittet GDPR och ansiktsigenkänningsteknik.
Risker med att använda tekniken
Användandet av ansiktsigenkänningsteknik innebär även risker kopplat till själva användningen av tekniken. Här beskriver vi fyra riskområden:
- Uppgifter kan hämtas från lättillgängliga källor
- Resultatet är alltid en uppskattning
- Diskriminering och bias
- Utökad användning av tekniken
Uppgifter kan hämtas från lättillgängliga källor
Typen av uppgifter som behandlas genom ansiktsigenkänningsteknik, det vill säga människors ansikten, kan hämtas från redan tillgängliga källor och databaser och bli en biometrisk uppgift efter teknisk behandling.
Ansiktsigenkänningsteknik kan alltså potentiellt användas på bilder och videoklipp som redan finns tillgängliga i olika databaser eller från källor på internet, exempelvis bilder som användare laddat upp på sociala medier. På så sätt skiljer sig ansiktsigenkänningsteknik från annan biometrisk teknik som i regel kräver att inhämtningen av uppgifterna sker direkt från den berörda personen.
Resultatet är alltid en uppskattning
En risk som måste beaktas vid användningen av ansiktsigenkänningsteknik är att svaret vid en jämförelse är baserat på en statistisk uppskattning mellan de jämförda biometriska mallarna. Svaret från en jämförelse är med andra ord aldrig ett ja eller nej, utan en sannolikhet för att det är samma person. Beroende på teknikens prestanda och omständigheter såsom ljusförhållanden, vinklar och bildkvalitet kan de biometriska mallarna variera i kvalitet vilket i sin tur kan påverka resultatet.
Diskriminering och bias
En annan risk med tekniken är att den kan ha problem med diskriminering och bias. Bias innebär att det finns en tendens hos en AI-modell som har utvecklats genom maskininlärning att hitta lösningar som liknar de lösningar den tränats på.
Om en AI-modell för ansiktsigenkänning har tränats på bilder av människor med ett visst ursprung eller utseende kan den ha svårare att identifiera människor med annat ursprung eller utseende. Det i sin tur kan leda till att tekniken pekar ut fel personer vilket kan innebära betydande konsekvenser för den utpekade personen. Precis som för annan AI-teknik blir de träningsdata som AI-modellen tränas på av väsentlig betydelse. De som utvecklar AI-modellen måste se till att den tränas med tillräckligt bra data för att minska risken för felaktiga resultat i den aktuella tillämpningen.
Tekniken innefattar till sin natur risker eftersom resultatet av en jämförelse i slutändan är en uppskattning. Det ställer höga krav på både utvecklare och användare av tekniken att vara uppmärksamma och arbeta med konfigurering, till exempel genom att justera tröskelvärdet, och att självkonfigurering av algoritmer sker för att minska antalet felaktiga resultat. Precis som vilken annan AI-teknik som helst är ansiktsigenkänningsteknik aldrig träffsäker till hundra procent utan en viss felmarginal finns alltid.
Utökad användning av tekniken
En risk som inte enbart är kopplad till ansiktsigenkänning, men där tekniken kan få stor inverkan är det ökade behovet av kamerabevakning i samhället. Det är viktigt att de brottsbekämpande myndigheterna ges förutsättningar att bekämpa brottslighet och även att andra aktörer som vill använda kamerabevakning som en åtgärd för att komma tillrätta med brottslighet har den möjligheten när det är nödvändigt.
När kameror väl har installerats på olika platser finns det dock risk för att de börjar användas på nya sätt och för andra ändamål än vad som bestämdes när de sattes upp. Exempelvis kan ansiktsigenkänningsteknik i många fall appliceras på redan befintlig kamerautrustning.
Om detta sker utan noggrann analys av integritetsrisker och utan att införa tillräckliga kontrollmekanismer och rättssäkerhetsgarantier kan det innebära stora risker för individers rätt till privatliv.