Microsoft snur og utsetter lansering av ny KI-funksjon.
Tenk deg at Windows tar et bilde av absolutt alt du gjør på datamaskinen. Hvert femte sekund. Om du spiller dataspill: Windows tar bilde. Om du surfer på dine flaueste hobbyer: Windows tar bilde. Om du skriver hemmelig jobb-e-post: Windows tar bilde.
Alle bildene lagres i en gigantisk bunke på datamaskinen. Så ser Windows gjennom alle bildene, og tar vare på all teksten derfra. Til slutt blir all skrift du har hatt oppe på skjermen din lagret i en diger tekstfil, så du kan søke i den.
Sånn blir det, snart. Funksjonen kalles «Recall». Microsoft selv kaller det for «fotografisk minne for PC-en».
Men er det egentlig bra?
Frykter innbrudd og tyveri
«Recall» har skapt store bølger blant eksperter på IT-sikkerhet. En av dem heter Kevin Beaumont og er en anerkjent, britisk uavhengig sikkerhetsekspert. Beaumont har fått tilgang til Recall-programvaren og testet den selv. Det han fant ut var at all informasjon om deg ble lagret helt åpent på harddisken. Alle brukere av maskinen kunne i praksis se alt du har gjort på PC-en, viste han.
Etter at Beaumont publiserte sin gjennomgang av systemet har Microsoft gjort flere endringer.
I en bloggpost forteller Microsoft at de ikke lenger vil gjøre Recall til standard. Nå må du selv velge om du vil bruke funksjonen, den er ikke automatisk skrudd på. I tillegg vil de kreve sikker innlogging for å bruke den, og databasen skal være kryptert, så ikke hvem som helst skal kunne bla seg gjennom ditt digitale «minne».
Likevel er ikke sikkerhetsekspert Beaumont fornøyd.
– Recall skaper en søkbar tekstdatabase over alt du har skrevet og sett på datamaskinen, inkludert e-poster du har slettet og direktemeldinger. Microsoft kaller det fotografisk minne, og det blir på disken din så lenge du har plass til det. Dette er en enorm endring av hvordan datamaskinene våre virker, skriver Beaumont i en e-post til NRKbeta.
– Det er veldig risikabelt hvis noen kommer seg inn i din datamaskin. Tenk å ha tilgang til noen andres fotografiske minne!
– Hva er det verste som kan skje?
– At et minne av alt du noensinne har gjort på en datamaskin blir tilgjengelig for noen andre. For eksempel meldinger du har slettet eller bankinformasjonen din.
Beaumont trekker også fram at Recall-databasen ikke har noen endringslogg. Dermed kan du ikke sjekke om noen har snoket i den. Eller endret skjermbildene i etterkant.
Litt som en menneskehjerne
Men kanskje er det muligheter her også, ikke bare trusler?
– KI menneskeliggjør datamaskinen.
Det sier Tony Orre. Han er finsk og jobber som Windows-«category manager» for Microsoft i vår del av verden. Han sammenligner inntoget til kunstig intelligens i datamaskinene våre med de største endringene i PC-historien.
– Jeg får en Copilot+-maskin den 19. juni. Jeg er superklar, sier han.
Orre mener Recall blir en sentral del av en ny måte å bruke datamaskiner på.
– Du kan bare bruke naturlig språk. Vis meg familiens ferieturer. Finn en rød bil. Den husker fra alle programmene, alle websidene og websidene og dokumentene du bruker, sier Orre entusiastisk.
– Hva vil du bruke det til selv?
– Til jobben. Når vi nå snakker om lanseringen av Copilot+ kunne jeg be den søke og finne alle dokumenter, alle e-poster, alle presentasjoner om det som jeg har fått eller lest. Den fungerer litt som en menneskehjerne fungerer. Det er et stort skifte, sier han.
Utsetter Recall
Copilot+-datamaskinene kommer i salg denne uka. Men etter alt bråket rundt sikkerhetsutfordringene, har selve Recall-funksjonen blitt utsatt. Orre forteller at de fortsatt jobber med sikkerhetsforbedringer. Recall vil dermed legges til seinere, til tross for at det var et av de viktigste salgspunktene ved den nye maskinen.
Ifølge Orre vil Recall bare bli tilgjengelig for Copilot+-maskinene. Systemet kjører lokalt på datamaskinen, og Microsoft mener man trenger en egen AI-prosessor for å kjøre det bra.
– Hva tenker du om kritikken som har kommet?
– Vi tar det superseriøst. Det er rimelige bekymringer, og vi har måttet gjøre noen grep, og sørge for at bare du selv kan få tilgang til din Recall. Og vi har gjort det valgfritt å bruke.
– Men er det lurt å bruke Recall på jobben, for eksempel?
– Ja, men alle kan velge hvilke funksjoner de skal bruke, også arbeidsplasser. Vi har jo sikkerhet på høyeste nivå på plass. Men jeg tror dette vil påvirke produktiviteten massivt.
Orre presiserer også at du kan skru av Recall for alt mulig. Du kan når som helst slette skjermbilder for en periode eller alle sammen. Og du kan be Recall om å ikke ta bilder av både enkeltprogrammer og websteder. For eksempel for å hindre bankinformasjon fra å bli lagret. Og en egen knapp skrur av hele systemet i en dag.
– Når du er i inkognitomodus husker den ingenting, sier han.
Forbrukerrådet: – Veldig sårbart
Finn Myrstad er fagdirektør i Forbrukerombudet, hvor han jobber med både personvern og IT-sikkerhet. Han reagerer aller mest på hvordan systemet var ment å være før Microsoft lyttet til kritikken og strammet til sikkerheten.
– Hvordan var det i det hele tatt mulig? De var en uke unna å rulle ut noe som er så usikkert. Det er ganske utrolig, sier han.
Ifølge sikkerhetsekspert Beaumont var det enkelt for en hvilken som helst bruker av datamaskinen å hente ut hele historien din. «Å stjele alt du noensinne har skrevet eller sett på din egen Windows-maskin er nå mulig med to kodelinjer», skrev han.
Myrstad understreker at han ikke har testet Recall selv. Likevel har han holdt seg oppdatert på debatten de siste ukene. Og selv om Microsoft nå vil kreve bevis for at du er rett bruker før du får ta systemet i bruk, er han skeptisk.
– Det du gjør på en PC er veldig privat. Alt fra å betale regninger til å sende e-post. Det er veldig sårbart. Her føler jeg bevisbyrden ligger på Microsoft til å vise at dette er trygt, sier han.
– Ville du brukt det selv?
– Aldri, sånn det framstår i dag.
– Men høres det ikke litt fint ut, da? Å kunne søke i din egen hukommelse, på en måte?
– Det er jo mye som kan være praktisk, men er det lurt? Vi må i hvert fall tenke oss nøye om. Personvern og sikkerhet er ikke kun en individuell rettighet. Andres personvern kan bli utsatt fordi du har gjort et valg. Det er ikke kun opp til individene, sier Myrstad.
– Betyr det at myndighetene bør se på det?
– Ansvaret for å følge loven ligger jo på Microsoft. Men spesielt alle som jobber med sensitiv info av noe slag, de må tenke seg veldig nøye om.
Mener Microsoft er uansvarlige
Vår britiske sikkerhetsekspert Kevin Beaumont er uansett ikke overbevist.
Han mener det kan være mulig å lage et sånt system på en sikker måte. Men det ville i tilfelle kreve årevis med samvittighetsfullt arbeid med personvern og sikkerhet.
– Jeg forstår ikke hvordan Microsoft kan si at de utvikler KI på en ansvarlig måte, når de har laget en funksjon uten å ta hensyn til menneskers sikkerhet, sier han.
Copilot+-maskinene er altså i salg fra denne uka. Foreløpig uten Recall.