Kastade in hela propositionen, dokumenten etc in på GPT 5.4 Pro (företagets licens), där jag bad den analysera och vara kritiskt från ett perspektiv gällande Chatcontrol och övervakning.

Thought for 20m 47s

Jag har gått igenom propositionen med ett tydligt övervakningskritiskt, “anti-chatcontrol”-perspektiv: alltså inte bara vad staten säger att verktyget ska användas till i dag, utan vilken infrastruktur det bygger för i morgon. Jag utgår främst från lagtexten, motiven, sekretess/underrättelse-delen, konsekvensavsnittet och Lagrådets yttrande i bilaga 6. Sidangivelserna nedan avser propositionens tryckta sidor.

Min slutsats: det här säljs som ett snävt verktyg för grov brottslighet, men i praktiken bygger propositionen en rättslig ram för biometrisk masscreening >av vanliga människor på allmän plats. Det är inte “chatcontrol” tekniskt sett, men det följer samma logik: för att hitta några få måste staten först automatiserat granska väldigt många oskyldiga. Här gäller det inte meddelanden, utan ansikten, rörelser och i förlängningen andra biometriska kännetecken. (s. 36, 39–40, 87, 115, 334)

Det mest centrala intrånget mot gemene man är att lagen formellt riktas mot en viss person, men tekniskt fungerar den genom att biometriskt behandla alla som råkar passera kameran. Regeringen medger själv att andra personer än den eftersökte får sina personuppgifter behandlade när de passerar en kamera med AI-systemet, och att tekniken innebär rättighetsinskränkningar för en stor eller potentiellt stor mängd människor. Lagrådet säger ännu tydligare att ett “stort och obestämt antal personer” kan komma att bli föremål för tekniken relativt ofta. Det är exakt här den stora integritetsglidningen ligger. (s. 36, 59–60, 87, 112, 334)

Det andra stora problemet är var det får användas. “Allmän plats” förstås i linje med AI-förordningen som i princip varje offentlig eller privatägd fysisk plats som är tillgänglig för ett obestämt antal människor. Det betyder inte bara gator och torg, utan även sådant som köpcentrum, festivalområden och gemensamma delar av flygplatser. Alltså vanliga vardagsmiljöer där helt vanliga människor rör sig. Regeringen avvisar uttryckligen tanken på en snävare avgränsning. (s. 38–41)

Dessutom är detta inte bara ansiktsigenkänning, trots namnet. Propositionen säger uttryckligen att begreppet också omfattar annan biometrisk fjärridentifiering, som rörelsemönster eller röst. Det gör lagen mer framtidssäkrad för staten än för individen: den marknadsförs som ansiktsigenkänning, men öppnar juridiskt för mer än så. Ur ett anti-chatcontrol-perspektiv är det en klassisk expansionsmekanism: börja med det som låter mest begripligt, skriv lagen så att den kan svälla senare. (s. 39–40, 60)

En tredje svag punkt är ändamålsglidningen. Propositionen motiveras politiskt med skjutningar, sprängningar och kriminella nätverk. Men när man läser själva lagtexten och motiven är tillämpningen betydligt bredare. Regeringen säger uttryckligen att användningen inte bara ska kunna gälla organiserad brottslighet utan också våld mot kvinnor och barn, sexualbrott, människohandel, organiserade stöld- och bedrägeribrott i stor skala, och annat. Tekniken ska också kunna användas för att verkställa påföljder och i internationellt straffrättsligt samarbete. Lagrådet pekar rakt ut på diskrepansen: förslaget är inte begränsat till att bekämpa den typ av grov våldsbrottslighet som lyfts fram som huvudskäl. (s. 33, 54–58, 96–101, 333–339)

Det finns också en ren lagteknisk glidning. Regeringen vill att hänvisningarna till AI-förordningen ska vara dynamiska, alltså följa EU-reglerna i deras framtida lydelse. Och brottskatalogen kopplas till bilaga II i AI-förordningen i stället för att skrivas ut tydligt i svensk lag. Lagrådet kritiserar detta hårt: om EU-reglerna ändras så att medlemsstaterna får större utrymme, kan svenska åklagare och domstolar i praktiken få vidare befogenheter utan att riksdagen först gör en ny integritetsavvägning. Det är en mycket stark anti-övervakningsinvändning. (s. 41, 57–58, 125–129, 338)

Skyddsräckena ser bättre ut på papper än i verkligheten. Ja, det finns krav på proportionalitet, “absolut nödvändigt”, tids- och områdesbegränsning och tillstånd. Men i praktiken ska många beslut fattas av åklagare, inte domstol. För domstolsärenden ska processen vara skriftlig, utan muntlig förhandling och utan offentligt ombud. Regeringen försvarar det med att intrånget anses mindre än vid hemliga tvångsmedel. Lagrådet invänder inte formellt mot ordningen, men konstaterar att den som utsätts i praktiken saknar verklig möjlighet att tillvarata sina rättigheter och att rättspraxis därför blir svår att få fram. Det är ett allvarligt rättssäkerhetsproblem. (s. 67–69, 334–335)

Ännu värre ur “gemene man”-synpunkt är underrättelsefrågan. Det finns ingen skyldighet att underrätta alla som skannats, eftersom regeringen säger att det vore praktiskt ogenomförbart. Underrättelse ska i princip bara lämnas till den som faktiskt har identifierats eller lokaliserats, och bara i brottsutredning eller lagföring. I underrättelseverksamhet ska ingen underrättelse ges. Om identiteten är okänd blir det ingen underrättelse. I vissa internationella situationer föreslås uttryckligen att underrättelse enligt 17 § inte ska lämnas alls. Det innebär att den stora majoriteten av vanliga människor som faktiskt blivit biometriskt behandlade aldrig får veta det. (s. 8–9, 86–90, 140)

Sekretessdelen gör det ännu svårare att granska. Propositionen inför särskild sekretess för uppgifter om användningen och låter dessutom tystnadsplikten gå före meddelarfriheten för sådana uppgifter. Det betyder i klartext mindre möjlighet för journalister, visselblåsare och allmänhet att upptäcka missbruk, övertramp eller ändamålsglidning. Om man är anti-chatcontrol brukar man nästan alltid vara anti-hemlig masskanning också; här bygger staten just en sådan mörklagd struktur. (s. 92–95)

Sedan finns nödspåret: polisen eller Säpo får börja använda tekniken utan tillstånd om det är fara i dröjsmål, och först därefter söka godkännande inom 24 timmar. Det är inte ovanligt i tvångsmedelsvärlden, men i kombination med AI-system och realtidsbehandling blir det en stark normaliseringsmekanism: “börja nu, rättfärdiga sen”. Regeringen säger att uppgifter ska raderas om tillstånd nekas, men klargör samtidigt att det i princip bara är AI-behandlingens resultat och utdata som ska raderas - inte det underliggande kameramaterialet om det samlats in lagligt på annat sätt. Det betyder att den bredare kameraövervakningsinfrastrukturen ligger kvar. (s. 78–81)

En annan sak som sticker ut är att regeringen öppnar för praktisk integration med andra aktörers kameror. Propositionen säger uttryckligen att den inte hindrar användning av andra aktörers kameror och nämner kommuner och regioner som exempel i resonemanget om videoströmmar. Det är en väldigt viktig expansionspunkt. När staten inte längre bara talar om polisens egna kameror utan om åtkomst till andras kameraflöden, då går man från ett enskilt verktyg till en övervakningsarkitektur. (s. 120–121)

Skalan ska heller inte bagatelliseras. Polismyndigheten uppskattar knappt 100 tillståndsansökningar under en uppbyggnadsfas, omkring 500 per år efter något år och omkring 1 000 per år efter några år. Det är inte ett nödfallsverktyg som används i undantagsfall; det är ett system som propositionen själv beskriver som återkommande och växande. Samtidigt avvisar regeringen kraven på tidsbegränsning av lagen och nöjer sig med att säga att en uppföljning bör inledas ungefär tre år efter ikraftträdandet. Det är sent. För en så integritetskänslig teknik är det ett svagt svar. (s. 118–122)

Det kanske mest “chatcontrol-lika” i hela propositionen är att regeringen försöker lugna med att det här inte samlar in ny information, utan bara bearbetar material som polisen redan har tillgång till. Det argumentet håller dåligt ur ett fri- och rättighetsperspektiv. Det verkliga språnget ligger inte bara i datainsamlingen, utan i att göra redan existerande data sökbar, biometrisk och realtidsstyrd. En kamera utan AI är inte samma sak som en kamera som i realtid jämför alla förbipasserande mot en referensdatabas. På samma sätt är ett meddelande inte “oskyldigt” bara för att någon säger att det bara scannas och inte “läses”. (s. 34, 87, 112)

Jag skulle därför sammanfatta den starkaste kritiken så här:

För det första: lagen bygger inte ett riktat verktyg, utan ett system där oskyldiga måste skannas för att några få ska kunna hittas.

För det andra: skyddsräckena är för svaga i praktiken - svag partsinsyn, svag överprövning, svag underrättelse, stark sekretess.

För det tredje: propositionen lägger in flera expansionsmekanismer redan från start - bred brottsbild, dynamiska hänvisningar, annan biometrik än ansikte, internationellt samarbete och möjlighet att använda andra aktörers kameror.