Ledende eksperter har tidligere advart mot å skanne mobiler for overgrepsmateriale. Nå vil EU pålegge selskaper å oppdage overgrepsmateriale på deres tjenester. Eksperter frykter for konsekvensene.
Onsdag la EU-kommisjonen frem et forslag til en ny lov som kan få store konsekvenser for nordmenns digitale liv. Lovforslaget er ment å bedre beskytte barn mot overgrep, men rettighetsgrupper har lenge vært bekymret for at det kan undergrave retten til privatliv og sikker kommunikasjon.
Kommisjonen forklarer at lovforslaget vil innebære at selskaper i EU blir pålagt å «oppdage, rapportere, og fjerne overgrepsmateriale mot barn uavhengig av hvor det oppstår, samtidig som de fundamentale rettighetene til brukerne er beskyttet».
– Dette forslaget legger opp til en overvåkningsmaskin som vi aldri har sett maken til i demokratiske land, og er det nærmeste vi kommer autoritær kontroll over digitalt innhold på samme måte som de gjør i Kina, sier stipendiat Tjerand Silde ved NTNU.
Den profilerte teknologen Alec Muffett lekket tirsdag et utkast til lovforslaget. Han er svært kritisk:
– I dag er dagen EU erklærer krig mot ende-til-ende kryptering, skriver Alec Muffett på Twitter.
Muffett har ledet arbeidet med å innføre ende-til-ende-krypterte meldinger på Facebook Messenger. Slik kryptering gjør at kun personene som kommuniserer vet hva som blir sagt eller skrevet.
Lokal skanning
Lovforslaget til EU går ikke konkret inn på teknologien som skal benyttes, men Tjerand Silde og Alec Muffett mener i praksis vil innebære å lokalt skanne informasjon som skal sendes mellom to personer.
Målet med lovforslaget er å oppdage og stoppe deling av overgrepsmateriale og hindre at barn blir utsatt for «grooming».
– Hva har forslaget å si for norske nettbrukere?
– Dersom denne EU reguleringen blir adoptert i Norge så betyr det at kommunikasjonen til alle norske nettbrukere vil bli analysert når det sendes, og kan potensielt bli rapportert og anmeldt. Det vil være uklart hva som skannes for, og vi kan forvente at ting vil gå galt, som i praksis vil føre til falske rapporter og uskyldig utestengte brukere, sier Silde.
Apple satt lignende system på vent
En rekke høyt respekterte akademikere og teknologer advarte i fjor høst mot å innføre denne typen teknologi. De mente at skanning av innhold lokalt på en digital enhet, gjerne forkortet til CSS, i ytterste konsekvens kan svekke demokratiet.
– Introduksjonen av skanning på våre personlige enheter – enheter som lagrer informasjon fra våre gjørelister, tekstmeldinger og bilder – går midt imot enkeltborgeres behov for personvern. Denne formen for masseinnsamling kan føre til omfattende nedkjølingseffekter på ytringsfriheten og faktisk på selve demokratiet, skrev ekspertene i en artikkel publisert på forskningsnettstedet arXiv.
– Vi mener at CSS verken garanterer effektiv kriminalitetsbekjempelse eller forhindrer overvåkning. Faktisk er effekten det motsatte. CSS vil skape alvorlige sikkerhets- og personvernsrisikoer for hele samfunnet, men hjelpen det kan gi politimyndigheter i beste fall er problematisk, skrev de.
Advarselen kom etter at Apple foreslo å innføre tiltaket i USA og på sikt i resten av verden. Apple har satt initiativet på vent og det er foreløpig usikkert om det på sikt vil innføres.
Rettighetsgrupper kritisk
I mars publiserte den digitale rettighetsorganisasjonen EDRi et åpent brev som advarte mot forslaget.
– Vi mener det å ty til enkle teknologiske løsninger ikke bare er ineffektive, men kan føre til utilsiktede konsekvenser for personvernet til alle menneskers kommunikasjon, inkludert barna og overlevende etter misbruk, står det i brevet 47 organisasjoner har stilt seg bak.
Leder for IT-politiskforening i Danmark, Jesper Lund, er svært kritisk til det endelige lovforslaget. Hans organisasjon samarbeider med EDRi.
– Forslaget er et åpenbart angrep på kryptering selv om EU-kommisjonen påstår noe annet, skriver han til NRK.
Onsdag kl. 14: Saken er oppdatert med sitat fra Jesper Lund og man har siden publisering lagt til et ekstra sitat fra Tjerand Silde.