I sommar kopplas tusentals övervakningskameror ihop med AI-system i realtid, efter att regeringens lagförslag klubbades igenom i maj. ”Ett haveri för personlig integritet och rättigheter”, säger Elias Rudberg från Föreningen för Digitala fri- och rättigheter.
Från och med den 1 juli kommer polisen i realtid att kunna identifiera personer som de tror kommer att begå, eller har begått, allvarliga brott som ”mord, grov misshandel och allmänfarlig ödeläggelse”.
Ansiktsigenkänningen kommer att göras med hjälp av AI – via de tusentals offentliga övervakningskameror som redan finns ute i landet.
Regeringen har tidigare motiverat den nya lagen med gängbrottsligheten i Sverige:
”Steg för steg gör vi det svårare att vara kriminell och tryggare för alla skötsamma människor i vårt land”, skriver de i en debattartikel.
De lovar också att den personliga integriteten kommer att värnas.
”AI-systemet ska endast få användas om det är absolut nödvändigt för att lokalisera eller identifiera en utpekad person”, skriver regeringen.
Samtliga riksdagspartier, förutom Centerpartiet, röstade för lagändringen. V och MP lade fram egna förslag på att lagen skulle tidsbegränsas och utvärderas, men var inte emot tekniken i sig.
Ulrika Liljeberg (bilden), rättspolitisk talesperson för Centerpartiet, säger att partiet ser positivt på ”fler kameror och ny teknik”, men inte detta förslag:
– Med varje nytt verktyg mot den grova brottsligheten måste man någonstans dra gränsen mellan brottsbekämpning och övervakning och om hur ändamålsenligt och effektivt det är, säger hon till Flamman.
– Vi drar gränsen här, och säger nej till detta förslag.
Hon nämner EU:s AI-förordning, som i regel förbjuder ansiktsigenkänning i realtid på offentliga platser – med undantag för viss allvarlig brottslighet:
– Skälet till att det som huvudregel är förbjudet är att det handlar om att införa en teknik för massövervakning, som riskerar att underminera själva fundamenten i vårt fria och öppna samhälle, säger Ulrika Liljeberg.
För att nyttja åtgärden behövs ett tillstånd från åklagare eller domstol – men i ”brådskande fall” är det inte nödvändigt. Varje användning ska också anmälas till Integritetsskyddsmyndigheten för tillsyn.
Regeringen motiverar beslutet med att vi befinner oss i ett ”allvarligt läge”, och polisen behöver ”fler effektiva verktyg för att bekämpa våldet”.
Polisens svar på Flammans frågor
1. Hur gör ni för att säkerställa att systemet värnar den personliga integriteten och inte strider mot AI-förordningen (som i regel förbjuder biometrisk fjärridentifiering)?
2. Kommer ni att upphandla något nytt system eller utvidga de AI-system ni redan har upphandlat?
3. Vilka kommer att tillhandahålla systemet?
”Arbete med genomförandet av lagen pågår för tillfället hos NOA UB (utveckling av brottsbekämpning) tillsammans med rättsavdelningen, IT och många fler för att få alla detaljer på plats.
Metoden är som du skriver förbjuden enligt AI-förordningen, men ska tillåtas under vissa i lagen strikt reglerade fall.
Genom att arbete pågår är det svårt att svara på frågor i nuläget. Detta är något vi får återkomma när myndigheten har kommit längre i planeringsarbetet.”
Men Ulrika Liljeberg (C) tycker ändå inte att det motiverar tekniken:
– Vi är för nya verktyg, men då ska de vara både rättssäkra och effektiva. AI för ansiktsigenkänning i realtid på allmänna platser är inte ett sådant verktyg.
I förslaget framgår inte vilken mjukvara som kommer användas i AI-övervakningen – något som kritiseras av Civil Rights Defenders i ett remissvar. Tidigare har polisen köpt in AI-tjänster från det hårt kritiserade övervakningsbolaget Palantir.
Regeringen skriver att vid ”eventuella samarbeten med privata aktörer” ansvarar polisen för att säkerställa att systemet uppfyller ”samtliga krav”.
Elias Rudberg sitter i styrelsen för Föreningen för Digitala fri- och rättigheter, DFRI, som arbetar med mänskliga rättigheter digitalt. Han är ”förvånad” över vad han beskriver som en ”extrem” lag:
– Det låter verkligen helt vansinnigt, som en dystopi, säger han till Flamman.
Han menar att AI-tekniken med stor sannolikhet kommer levereras av ett privat företag:
– Vi lämnar över väldigt mycket makt och kontroll över det svenska samhället till externa företag.
Svenska samhället, även vår regering och polis, kommer inte veta säkert vad de gör med informationen.
Elias Rudberg tycker inte bara att förslaget är ett ”haveri för personlig integritet och rättigheter”, utan också att beskrivningen av verktyget som begränsat är ”fel”:
– Kamerorna kommer ju att registrera alla personers ansikten, alltid. Bara då kan de scanna av och upptäcka personen de letar efter. Så där handlar det om att övervaka alla, hela tiden, säger han.
När systemet väl är på plats är det också lätt att utvidga och använda för att spåra folk i annat syfte, säger Elias Rudberg. Han ifrågasätter också hur ansvar går att utkräva av ett ”komplicerat datorsystem” som ingen förstår:
– Det är i sig väldigt problematiskt att statlig verksamhet överhuvudtaget använder något sådant.
Flamman har sökt Gunnar Strömmer (M).
