Terwijl Microsoft de afgelopen tijd om de oren kreeg vanwege de ene na de andere security-flater, heeft het bedrijf nu doodleuk een functionaliteit aangekondigd die álle handelingen van pc-gebruikers vastlegt in de vorm van de Recall-mogelijkheid op Copilot+ pc’s. De data blijft lokaal en gebruikers kunnen zelf voorwaarden stellen. Toch zijn we er niet helemaal gerust op dat Microsoft de mogelijke gevolgen helemaal doorgrondt.
Tijdens de Build 2024 conferentie in Seattle (en online) rolt het ene na het andere nieuwtje naar buiten. Over Fabric, Power Automate en Copilot Runtime bijvoorbeeld. Op zich interessant, maar de grootse klappers kwamen voorafgaand aan de conferentie, tijdens een off-site event waar Microsoft onder meer de Copilot+ pc aankondigde. Deze pc’s zijn in staat Microsoft’s AI-assistent Copilot lokaal te draaien.
Nieuwe functie doet stof opwaaien
De nieuwe feature die echter het meeste stof doet opwaaien is de Recall-functionaliteit die in de Copilot+ pc’s zit ingebakken. Hiermee maakt de AI elke paar seconden een screenshot, waardoor er een nauwkeurig beeld ontstaat van het gedrag van gebruikers. Daardoor valt precies te achterhalen wat een gebruiker op een bepaalde datum en tijdstip heeft gedaan. Een fotografisch geheugen avant la lettre.
De functie is niet gebonden aan een bepaalde app of venster, het bestrijkt het gehele computergebruik. Recall heeft standaard zo’n 25 GB aan opslagruimte nodig voor een archief van drie maanden. Gebruikers kunnen de toegewezen schijfruimte zelf aanpassen en aangeven hoe ver terug in de tijd het archief moet gaan. Is het archief vol, dan gaat het oudste materiaal er als eerste uit.
Gemak dient de mens
De functionaliteit wordt verkocht als een manier om op eenvoudige wijze te achterhalen wat je als gebruiker op enig moment hebt gedaan. Stel dat je een bestand hebt opgeslagen maar je weet niet meer in welke map je deze hebt gezet, welke bewerking je precies hebt gedaan aan een afbeelding, of hoe laat je een hotelreservering maakte in je browser, dan kan de Recall-functie deze info voor je opzoeken.
De belofte is dat dit kan door een vraag in gewone mensentaal te stellen. In promotiemateriaal van Microsoft is bijvoorbeeld een snapshot te zien waar een afbeelding van een rode schuur in PowerPoint wordt gebruikt. Deze komt boven water door de zoekopdracht ‘Find the red barn’, waarna de AI uit het screenshot kan ophalen in welke context je als gebruiker deze schuur hebt gezien, hoe laat en in welk programma. Reuze handig.
Mogelijkheid om Recall uit te zetten
Microsoft wil mogelijke kritiek op deze nogal verregaande speurneuzerij in de kiem smoren door te verzekeren dat gebruikers kunnen bepalen waar Recall mag rondneuzen en waar niet. De Recall-functionaliteit kan zelfs in zijn geheel worden uitgezet. Bovendien wordt de data alléén lokaal opgeslagen en is deze niet toegankelijk voor derden.
Voor de datawaakhond ICO van de Britse overheid klonk dat in elk geval niet overtuigend genoeg. Aangespoord door privacy-activisten stelt dit orgaan een onderzoek in: het wil van Microsoft weten welke veiligheidsmaatregelen het treft om ervoor te zorgen dat data niet in de verkeerde handen kan vallen. In het BBC-artikel waar hierboven naar wordt gelinkt, leggen verschillende privacy- en data-experts al de link met de Netflix-serie Black Mirror, waarin de catastrofale uitwerking van te ver doorgevoerde tech-innovatie op mensen (en menselijkheid) het centrale thema is.
Zelfcensuur
Volgens sommigen van hen zou alleen al de wetenschap dat de computer elke paar seconden een screenshot maakt, leiden tot een vorm van zelfcensuur. Helemaal als je werkt op een computer die niet van jezelf is, maar van je werkgever. Stel dat die het gebruik van Recall verplicht stelt, in hoeverre heeft dat dan invloed op het computergebruik van werknemers, vragen zij zich af. Het werkt toch minder lekker als je weet dat iemand kan opvragen wat je precies op je computer aan het doen was toen je om 13.56 uur je telefoon niet opnam. –slechts in theorie, natuurlijk.
Wellicht weten sommige gebruikers van werk-pc’s niet eens dat hun baas gaat meekijken met hun pc-gebruik, stelt dit artikel terecht. Op Ars Technica wordt een nog sinisterder voorbeeld gegeven. Naast het voor de hand liggende –en nogal clichematige– voorbeeld van de porno-kijker die tegen de lamp loopt dankzij Recall, kan het fotografische geheugen een serieus gevaar betekenen voor journalisten in conflictgebieden, dissidenten en andere ‘staatsgevaarlijken’ wanneer hun eigen pc bewijsmateriaal tegen hen verzamelt over de sites die ze hebben bezocht, de documenten die ze hebben gelezen of de foto’s die ze hebben bekeken.
‘Een vorm van spyware’
Enkele prominente X-gebruikers, veelal software-engineers of tech-ondernemers, uitten ook hun zorgen over de functionaliteit. Die noemen het onomwonden een vorm van spyware en ondanks de sussende woorden van Microsoft, wijzen ze erop dat zo’n schatkist vol screenshots een primair doelwit gaat worden voor cyberaanvallen.
Wat nu als je pc in verkeerde handen valt, de toegangscode wordt gekraakt of iemand zich op afstand toegang verschaft? En Recall een screenshot blijkt te hebebn opgeslagen van het document waarin je al je wachtwoorden bewaart? Dergelijke ‘open’ informatie wordt namelijk niet automatisch weg gefilterd door Recall. Het is wellicht een vergezocht scenario, maar bedenk dat niet iedereen zijn security zo netjes op orde heeft als zou moeten. Microsoft maakt gebruikers dus kwetsbaarder door het openen van een extra aanvalsvector.
Steken laten vallen
Wellicht zou de op zich zeer interessante functionaliteit minder stof doen opwaaien als Microsoft had bewezen een uiterst solide security-partner te zijn. En juist daar zit ‘m de kneep. We berichtten onlangs al dat Microsoft weliswaar beschikt over zeer hoogwaardige security-oplossingen, maar in het toepassen van het juiste beleid grote steken laat vallen. Het gaat specifiek om de zaak waarin het bedrijf heeft verzaakt om zorgvuldig om te gaan met bepaalde API-sleutels, waardoor hackers zich toegang konden verschaffen tot verschillende Microsoft-systemen.
Russische en Chinese staatshackers wisten enige tijd geleden binnen te dringen in allerlei systemen, inclusief broncodes van Microsoft-producten. De Russen van Midnight Blizzard stalen e-mailberichten tussen Microsoft en de Amerikaanse overheid en de Chinese aanvallers konden tot wel zes weken lang in de mailbox koekeloeren van Amerikaanse en Europese beleidsmakers –verantwoordelijk voor het beleid richting China.
De opperste bestuurslaag van Microsoft bleek zich meermaals niet aan bekende security best practices te houden. Pijnlijk, aangezien het bedrijf zelf net als andere securityvendoren hamert op zaken als MFA en zero-trust. Hoewel het bedrijf transparantie over deze inbraken trachtte te bevorderen, was de informatie herhaaldelijk onjuist. Ook kwamen correcties in de informatievoorziening veel te laat en werden ze pas doorgevoerd op aandringen van de Amerikaanse cybersecuritywaakhond CSRB.
Gefragmenteerde aandacht voor security
In de reeks aan berichtgeving afkomstig uit de Build-conferentie is er volop aandacht voor security, zoals veiligheidsmaatregelen in de business-variant van de Edge-browser. Gebruikers kunnen daar beperkingen instellen op het gebruik van screenshots van gevoelige documenten. Ook is het mogelijk Copilot de toegang te ontzeggen tot bepaalde bestanden, sites en andere web-gebaseerde content. Ook tijdens de aankondiging van Azure AI Studio, waarmee developers AI-modellen kunnen bouwen, trainen en verfijnen, was aandacht voor het security-aspect.
Ondanks die aandacht voor security, die er ook echt wel is, lijkt het bij Microsoft te ontbreken aan een holistische kijk op het thema. Het is een beetje alsof het bedrijf alle ramen op slot doet, maar de voordeur wagenwijd laat openstaan. Het bedrijf lijkt zich onvoldoende bewust van de security-risico’s waar het gebruikers dankzij Recall mogelijk aan blootstelt, nu het van hun pc een archivaris maakt die alles boven water kan halen wat ze hebben gezien, gedaan, bekeken of gelezen.
Het is een tech-oplossing van en voor de tech-industrie, waarbij men er gemakshalve vanuit lijkt te gaan dat iedere computergebruiker een compliance-, privacy- en datasecurity-beleid heeft uitgestippeld. De realiteit zit gewoon stukken rommeliger in elkaar en daar gaat Recall aan voorbij.
Toch wel handig
Ten slotte, de schrijver dezes had voor het onderzoeken van dit artikel tientallen browservensters openstaan. Op enig moment was niet meer helder in welk venster een bepaald artikel met afbeelding stond. “Nu zou het handig zijn om aan Copilot te vragen even te zoeken naar dat artikel van de BBC met dat ene plaatje met Microsoft-baas Satya Nadella erop”, was onwillekeurig de gedachte.
Wint gemak het ook hier uiteindelijk van security- en privacy-overwegingen? Dat mag iedere gebruiker hopelijk voor zichzelf bepalen. Maar dan is het wel fijn als Microsoft het hackers, autoritaire regimes of overactieve regelneven in welke bureaucratie dan ook niet té makkelijk maakt.
Lees ook: Copilot spreekt nu officieel Nederlands