Recall a encore des progrès à faire sur la reconnaissance des informations sensibles

[Raccoon]

La fonction Recall peut de nouveau être testée dans un canal de développement de Windows 11, sur les machines équipées de NPU (Neural Process Unit). Si sa sécurité semble bien avoir été renforcée, elle capture malheureusement de nombreuses informations sensibles.

L’idée derrière Recall est simple : fournir des renseignements sur toute demande d’une personne au sujet d’une activité passée. On peut ainsi poser des questions sur des documents ouverts ou modifiés, des pages web consultées, des photos et ainsi de suite. Le résultat est fourni sous forme de listes d’éléments correspondants, accompagnés de captures pour fournir du contexte.

Une genèse bien difficile

Pour présenter ces informations, Recall prend régulièrement des captures d’écran et en analyse le contenu pour extraire le fameux contexte. L’ensemble est stocké dans une base de données. Les calculs sont effectués par plusieurs petits modèles locaux d’IA, d’où des prérequis sur le matériel. Initialement, seules les machines Copilot+ basées sur des puces Snapdragon X de Qualcomm étaient prises en charge. Désormais, les configurations Intel et AMD sont aussi de la partie, toujours en préversion.

Un déluge de critiques a cependant coupé court à une certaine euphorie technologique chez Microsoft. D’importantes failles de vie privée ont été mises en avant, Recall pouvant se révéler être un puissant outil d’espionnage sur l’ordinateur. Dans un premier temps, Microsoft a procédé à quelques améliorations, avant de retirer son produit et d’en reprendre toutes les bases.

La version actuellement proposée dans le canal Dev de Windows 11 est ainsi une application largement remaniée. L’opt-out de la première version s’est changé en opt-in et la fonction peut être complètement désinstallée. La base de données est chiffrée et les accès réclament une identification via Windows Hello (code PIN ou biométrie). Autant d’éléments qui auraient dû faire partie du projet dès l’origine, surtout venant d’une entreprise qui a fait de la sécurité sa grande priorité. Des vœux d’autant plus appuyés après la panne engendrée par CrowdStrike.

Le problème des informations sensibles

Tom’s Hardware s’est livré à une série de tests sur Recall. Nos confrères ont pu confirmer que la base était chiffrée, de même que toutes les captures d’écran prises par la fonction. Les données sont présentes au même endroit qu’initialement (\AppData\Local\CoreAIPlatform.00\UKP\ dans le dossier utilisateur), mais il est impossible de les ouvrir, du moins facilement. Dans la première version, il suffisait d’un outil comme DB Browser pour obtenir les informations. Les captures sont stockées dans le sous-répertoire AsymStore.

Le problème, pour Tom’s Hardware, réside dans la reconnaissance des informations. On sait depuis le début que Recall peut observer tout ce qui passe à l’écran, y compris des données aussi sensibles que les identifiants, mots de passe, numéros de Sécurité sociale, numéros de cartes bancaires et même les CVV (le fameux code à trois chiffres présent derrière chaque carte bancaire). Or, il semble que Recall ne se soit guère amélioré sur ce point.

Dans une fenêtre du Bloc-notes par exemple, nos confrères ont saisi de fausses informations telles que des numéros de cartes bancaires, des noms et des CVV. Elles se sont presque toujours retrouvées dans les captures d’écran de Recall. Même chose pour ce qui ressemblait clairement à des identifiants et mots de passe. Dans un formulaire de demande de prêt, Recall a récupéré le numéro de sécurité sociale.

[…]

Source et suite : next.ink

[duJambon]

@Raccoon Tant qu’on peut désactiver cet “œil de moscou microsoft”…

Encore un truc en plus qui remplit windows à l’infini. J’ai un pote “conservateur” dont le répertoire windows occupe plus de 100 GB, probablement rien qu’avec des journaux. (le mien n’en fait pas la moitié)

[Violence]

Ton pote doit surement aussi ne jamais maintenir sa bécane ?
Rien que le cache de Windows Update peut atteindre une taille énorme au fil des années. Plus les fichiers temporaires, les logs, les fichiers d’hibernation, etc… ça ne m’étonne pas.

[duJambon]

@Violence Il lui arrive quand même de vider la corbeille, mais seulement quand le disque est plein

[duJambon]

Ce gémissement que vous entendez est la réaction des utilisateurs au retour de Recall dans Windows

Capture d’écran et traitement d’un écran par l’IA toutes les 3 secondes. Qu’est-ce qui pourrait mal se passer ?

Les défenseurs de la sécurité et de la confidentialité se préparent à une nouvelle bataille difficile contre Recall, l’outil d’IA déployé dans Windows 11 qui capturera, indexera et stockera tout ce qu’un utilisateur fait toutes les trois secondes.

Lors de son lancement en mai 2024, les professionnels de la sécurité l’ont vivement critiqué, le qualifiant de mine d’or pour les initiés malveillants, les criminels ou les espions d’États-nations qui parvenaient à obtenir un accès administratif, même bref, à un appareil Windows. Les défenseurs de la vie privée ont averti que Recall était propice aux abus dans le contexte de violences conjugales. Ils ont également souligné que rien n’empêchait Recall de conserver les contenus sensibles en voie de disparition envoyés via des messageries respectueuses de la vie privée comme Signal.

Après des mois de réactions négatives, Microsoft a suspendu Recall. Jeudi, l’entreprise a annoncé sa réintroduction. Cette fonctionnalité est actuellement réservée aux membres Insider ayant accès à la version préliminaire de Windows 11 Build 26100.3902. Elle sera progressivement déployée à plus grande échelle. Les responsables de Microsoft ont écrit :

Recall (aperçu)* vous fait gagner du temps en vous offrant une toute nouvelle façon de rechercher en toute sécurité ce que vous avez vu ou fait sur votre PC. Grâce aux capacités d’IA des PC Copilot+, il est désormais possible de retrouver et d’accéder rapidement à n’importe quelle application, site web, image ou document en décrivant simplement son contenu. Pour utiliser Recall, vous devez activer l’enregistrement d’instantanés (images de votre activité) et vous inscrire à Windows Hello pour confirmer votre présence afin que vous seul puissiez y accéder. Vous contrôlez toujours les instantanés enregistrés et pouvez les suspendre à tout moment. Lorsque vous utilisez votre PC Copilot+ tout au long de la journée pour travailler sur des documents ou des présentations, passer des appels vidéo et passer d’une activité à l’autre, Recall prend régulièrement des instantanés et vous aide à retrouver vos informations plus rapidement et plus facilement. Pour retrouver ou revenir à une activité précédente, ouvrez Recall et authentifiez-vous avec Windows Hello. Lorsque vous avez trouvé ce que vous cherchiez, vous pouvez rouvrir l’application, le site Web ou le document, ou utiliser Cliquer pour agir sur n’importe quelle image ou texte dans l’instantané que vous avez trouvé.

Microsoft espère que les concessions exigeant l’adhésion et la possibilité de suspendre Recall contribueront à apaiser la révolte collective qui a éclaté l’année dernière. Il est peu probable que ce soit le cas, pour diverses raisons.

Premièrement, même si l’utilisateur A n’a jamais opté pour le rappel, il n’a aucun contrôle sur les paramètres des ordinateurs des utilisateurs B à Z. Cela signifie que tout ce que l’utilisateur A lui envoie sera capturé, traité par reconnaissance optique de caractères et Copilot AI, puis stocké dans une base de données indexée sur les appareils des autres utilisateurs. Cela récupérerait sans discernement toutes sortes de données sensibles de l’utilisateur A, y compris des photos, des mots de passe, des informations médicales, des vidéos et des messages chiffrés. Comme de Privacy Guides l’a écrit Em, rédactrice , sur Mastodon :

Avertissement important concernant Recall de Windows ️ :

Même si vous avez désactivé recall, si vous communiquez avec quelqu’un qui pourrait utiliser cette prochaine fonctionnalité de Windows de Microsoft, soyez extrêmement prudent quant aux informations que vous partagez avec eux.

Quelle que soit l’application sécurisée que vous utilisez, soyez particulièrement prudent lors de l’envoi de :

• Photos intimes

• Mots de passe ou autres informations sensibles

• Conditions médicales

• Données personnelles, même via des e-mails sécurisés ou des chats cryptés sécurisés

• Informations financières

• Chats vidéo, même cryptés

Cette fonctionnalité extraira malheureusement vos informations de tout logiciel sécurisé que vous auriez pu utiliser et les stockera sur l’ordinateur de cette personne d’une manière potentiellement moins sécurisée.

Bien sûr, cette personne pourrait de toute façon prendre manuellement une capture d’écran de tout cela, mais cette fonctionnalité fait que même une personne bien intentionnée pourrait ne pas être consciente qu’elle est activée ou pourrait supposer à tort qu’elle est suffisamment sécurisée.

Cette fonctionnalité n’est pas encore entièrement disponible, mais elle pourrait l’être bientôt.

L’existence d’une base de données facilement consultable capturant chaque instant d’une machine serait également une aubaine pour ceux qui ne se soucient pas des intérêts des utilisateurs. Des archives aussi détaillées feront sans aucun doute l’objet d’assignations à comparaître de la part d’avocats et de gouvernements. Les pirates informatiques qui parviennent à installer leur logiciel espion sur un appareil n’auront plus à le fouiller à la recherche des données les plus sensibles qui y sont stockées. Ils exploiteront Recall comme ils exploitent actuellement les bases de données des navigateurs qui stockent les mots de passe.

Microsoft n’a pas immédiatement répondu à un message demandant pourquoi il réintroduisait Recall moins d’un an après l’accueil glacial réservé à cette fonctionnalité. Pour ses détracteurs, Recall risque de rester l’un des exemples les plus pernicieux d’ ensitification , terme récemment inventé pour désigner l’intégration forcée d’IA et d’autres fonctionnalités indésirables dans des produits existants alors que l’intérêt pour les utilisateurs est négligeable.

Source: https://arstechnica.com/security/2025/04/microsoft-is-putting-privacy-endangering-recall-back-into-windows-11/