Chat Control 2.0 (CSAM-förordningen)

Enligt ChatControl.se handlar förslaget om att chatt-, e-post- och molntjänster ska kunna åläggas att leta efter barnövergreppsmaterial och grooming i användarnas meddelanden och filer, även när tjänsterna använder helsträckskryptering. Det är ett barnskyddsmål, bra. Men med risk för integritet, rättssäkerhet och teknisk säkerhet.

Sidan kan inte bäddas in (säkerhetsheaders), så här är bara länkarna.

Saklig kärna (omskrivet från ChatControl.se)

1. 1.

   Helsträckskrypterade tjänster är inte undantagna i förslaget.

   Om en tjänst inte kan se innehållet på serversidan återstår i praktiken bara klientnära skanning eller någon form av bakdörr för att kunna uppfylla kraven.
2. 2.

   Spårningsordrar kan riktas mot en viss tjänst, utan att det nödvändigtvis är en domstol som beslutar.

   ChatControl.se beskriver att en rättslig eller oberoende administrativ myndighet kan utfärda spårningsordrar. Poängen de lyfter är att när bakdörrar väl finns kan de missbrukas.
3. 3.

   Det handlar inte bara om att matcha känt material.

   Förslaget omfattar också rapportering av nytt, potentiellt material samt försök till grooming, där indikatorer och automatisering kan ge stora problem med falsklarm.
4. 4.

   Det finns en målkonflikt mellan “skanna lite lagom” och “kryptera säkert”.

   Antingen tittar man i innehållet eller så gör man det inte. Att bara “plocka ut en liten del” ur krypterad kommunikation på ett säkert sätt är inte en vanlig, stabil kryptoprimitiv.
5. 5.

   Förslaget rör fler aktörer än bara apparna.

   ChatControl.se tar upp att även internetleverantörer och appbutiker kan påverkas via krav kopplade till riskbedömning och åldersstyrning av åtkomst.
6. 6.

   En vanlig missuppfattning är att helsträckskrypterade chattar redan skannas idag.

   ChatControl.se menar att dagens scanning i praktiken sker i icke-helsträckskrypterade flöden, och att CC2 skulle göra scanning obligatorisk och utvidgad.

FAQ i korthet (inbakat från ChatControl.se)

1. 1.

   Vad omfattas?

   Enligt ChatControl.se riktas kraven främst mot allmänna chattjänster, webbaserade e-posttjänster och publika molnlagringstjänster. Målet är att hitta grooming-försök och barnövergreppsmaterial genom skanning av meddelanden och filer.
2. 2.

   Krävs domstolsbeslut för spårningsorder?

   ChatControl.se skriver att det inte behöver vara domstol: det kan vara en rättslig myndighet eller en oberoende administrativ myndighet som utfärdar spårningsordrar.
3. 3.

   Varför blir totalsträckskryptering (E2EE) en strid?

   E2EE-tjänster är enligt ChatControl.se uttryckligen med, trots att leverantören inte kan läsa innehållet. För att kunna skanna i E2EE krävs i praktiken klientnära skanning eller en bakdörr i appen.
4. 4.

   Vad är skillnaden mot ”skanning som redan sker”?

   I deras ”missuppfattningar”-FAQ står att dagens skanning sker i vanliga (inte totalsträckskrypterade) flöden och ofta frivilligt. CC2 vill göra skanning obligatorisk och dessutom trycka in skanning i totalsträckskrypterade tjänster.
5. 5.

   Varför är ”nytt material” och ”grooming” extra känsligt?

   ChatControl.se lyfter att kraven även gäller detektion av nytt, potentiellt material och grooming-indikatorer. Det kräver mer än hash-matchning och kan ge stora problem med feldetektering.
6. 6.

   Apple-modellen som jämförelse

   I deras allmänna FAQ beskriver de att Apples (tillbakadragna) idé 2021 var mer begränsad och mer rättssäkert utformad: fokus på känt material och fler skyddsmekanismer, inte bred AI-detektion och spårning i E2EE.

3 exempel om det blir verklighet

1. 1.

   Falsklarm som blir “ärenden”, och plötsligt är din privata bild en myndighetsfråga.

   Ett oskyldigt foto, en skämtig meme eller ett missförstått meddelande flaggas. Det hamnar i en kedja av rapportering, handläggning och potentiell poliskontakt. Du blir inte “dömd”, men du blir granskad, och din data har redan vandrat.
2. 2.

   En ny attackyta: “skanningsmotor + indikatorer + loggar” blir nästa stora läcka.

   När fler system måste hantera känsligt innehåll ökar mängden platser där det kan gå fel: felkonfig, intrång, insider, eller slarviga tredjepartsflöden. Resultatet kan bli att privata bilder och chattar exponeras för helt fel folk.
3. 3.

   “Krypterad” blir mest en etikett, och grupper som behöver skydd tappar kanaler.

   Journalister, visselblåsare, utsatta personer och aktivister tappar tillit till säkra appar. Vissa tjänster lämnar marknaden, andra kompromissar. Det som skulle vara en privat korridor blir en korridor med metalldetektor och kameror.

Notis: Status och exakta detaljer kan ändras i EU-förhandlingar. Länkarna ovan går till originalet, och sammanfattningen här är skriven med egna ord.