Toen Microsoft vorige maand zijn nieuwe AI-tool aankondigde die werkt als een soort fotografisch geheugen, en dus niet alleen op je computer kan zoeken naar specifieke bestanden, maar ook naar dingen die je alleen maar hebt gezien, was dat een openbaring. Waar veel AI-tools tot nu toe veelal hetzelfde doen, is dit iets compleet nieuws. Maar deze nieuwe functie komt met de nodige vraagtekens.
De functie, die Recall heet, zou volgens security-experts een ramp zijn. Wat de tool doet om te weten wat jij zoal voorbij ziet komen op je laptop is overal steeds screenshots van maken. Iets wat je zelf niet merkt, maar wat de enige manier is om te weten wat je allemaal op je netvlies hebt gehad.
Voor de functie die het moet uitvoeren is dat heel handig, maar voor je privacy wat minder. Wat als je bedrijfsgeheimen bekijkt, of andere content waarvan je niet per se wil dat anderen weten dat je ernaar kijkt. Misschien ook content waar je helemaal niet om gevraagd hebt, maar die je toch wordt voorgeschoteld. Dat kan in sommige culturen, religies, beroepen en huishoudens problematisch zijn.
Recall, wat deel is van Copilot Plus-pc’s (al is het iemand gelukt het aan de praat te krijgen op een andere computer), verschijnt officieel op 18 juni aanstaande. Er zijn echter al wat testers met de software aan de slag en een aantal daarvan maken zich hierna ernstig zorgen over de veiligheid. Dat was ook wel te verwachten, want Recall heeft zelfs een functie waarmee je al die gemaakte screenshots als een soort tijdlijn achter elkaar geplakt ziet. Zo zie je niet zoals we nu kennen een internethistorie in URL’s of zoekwoorden, maar wordt het ineens een stuk meer visueel, en daarmee ook nog confronterender.
"Microsoft should recall Windows Recall" — Security researcher discovers Microsoft's new AI tool is woefully insecure – Windows Centralhttps://t.co/fxDjo7sntB https://t.co/QhauxL0uWq, #digititech, #marketing pic.twitter.com/wKsnsWSBjo
— Digiti Tech (@DigitiTech) June 4, 2024
Het probleem met Recall is voor de verandering dus niet hoe het getraind wordt en dat het gebruik maakt van je data, want volgens Microsoft blijft je data op je apparaat en privé, dus het wordt niet het hele internet over gestuurd, met alle securitygevaren van dien. Eén expert, Kevin Beaumont, wijst specifiek op hoe Microsoft de screenshots opslaat: lokaal als tekstbestand. Dat maakt het uiteraard voor een hacker vrij makkelijk om toegang te krijgen tot die gegevens.
Hij of zij hoeft alleen maar malware te ontwikkelen die de database en alles wat erin zit uit de computer trekt. Het is een gewone SQLite-database, dus dat lijkt niet ingewikkeld genoeg om je gegevens veilig te houden. Zodra je jezelf een rol als admin op een PC weet te verschaffen, kun je de data uit de AppData-folder halen, waar het in wordt gezet, stelt Microsoft. Beaumont geeft aan dat je daar helemaal geen admin voor hoeft te zijn, wat het aanzienlijk eenvoudiger maakt om toegang te krijgen tot die Recall-beelden. En je kunt het niet uitzetten, dus je zit er sowieso mee als je voor zo’n CoPilot+ kiest.
Omzeilen dan maar? Dat is wel een optie. Recall maakt namelijk geen screenshots van InPrivate-browsesessies en je kunt materiaal ook bepaalde digitale rechten toekennen om bepaalde informatie wel echt geheim te kunnen houden. Maar stel dat je dat vergeet en je toont bij het inloggen even je wachtwoord om te checken of je het goed gespeld hebt, dan is de kans aanwezig dat Recall precies dan een screenshot neems en die afbeelding dus op je computer te vinden is. De tool heeft ook geen opties om gegevens te anonimiseren of weg te blurren. Microsoft verwijst daarvoor echter naar de betreffende website die ervoor zou moeten zorgen dat je wachtwoord afgeschermd moet zijn.
