Capture d’écran et traitement d’un écran par l’IA toutes les 3 secondes. Qu’est-ce qui pourrait mal se passer ?
Les défenseurs de la sécurité et de la confidentialité se préparent à une nouvelle bataille difficile contre Recall, l’outil d’IA déployé dans Windows 11 qui capturera, indexera et stockera tout ce qu’un utilisateur fait toutes les trois secondes.
Lors de son lancement en mai 2024, les professionnels de la sécurité l’ont vivement critiqué, le qualifiant de mine d’or pour les initiés malveillants, les criminels ou les espions d’États-nations qui parvenaient à obtenir un accès administratif, même bref, à un appareil Windows. Les défenseurs de la vie privée ont averti que Recall était propice aux abus dans le contexte de violences conjugales. Ils ont également souligné que rien n’empêchait Recall de conserver les contenus sensibles en voie de disparition envoyés via des messageries respectueuses de la vie privée comme Signal.
Après des mois de réactions négatives, Microsoft a suspendu Recall. Jeudi, l’entreprise a annoncé sa réintroduction. Cette fonctionnalité est actuellement réservée aux membres Insider ayant accès à la version préliminaire de Windows 11 Build 26100.3902. Elle sera progressivement déployée à plus grande échelle. Les responsables de Microsoft ont écrit :
Recall (aperçu)* vous fait gagner du temps en vous offrant une toute nouvelle façon de rechercher en toute sécurité ce que vous avez vu ou fait sur votre PC. Grâce aux capacités d’IA des PC Copilot+, il est désormais possible de retrouver et d’accéder rapidement à n’importe quelle application, site web, image ou document en décrivant simplement son contenu. Pour utiliser Recall, vous devez activer l’enregistrement d’instantanés (images de votre activité) et vous inscrire à Windows Hello pour confirmer votre présence afin que vous seul puissiez y accéder. Vous contrôlez toujours les instantanés enregistrés et pouvez les suspendre à tout moment. Lorsque vous utilisez votre PC Copilot+ tout au long de la journée pour travailler sur des documents ou des présentations, passer des appels vidéo et passer d’une activité à l’autre, Recall prend régulièrement des instantanés et vous aide à retrouver vos informations plus rapidement et plus facilement. Pour retrouver ou revenir à une activité précédente, ouvrez Recall et authentifiez-vous avec Windows Hello. Lorsque vous avez trouvé ce que vous cherchiez, vous pouvez rouvrir l’application, le site Web ou le document, ou utiliser Cliquer pour agir sur n’importe quelle image ou texte dans l’instantané que vous avez trouvé.
Microsoft espère que les concessions exigeant l’adhésion et la possibilité de suspendre Recall contribueront à apaiser la révolte collective qui a éclaté l’année dernière. Il est peu probable que ce soit le cas, pour diverses raisons.
Premièrement, même si l’utilisateur A n’a jamais opté pour le rappel, il n’a aucun contrôle sur les paramètres des ordinateurs des utilisateurs B à Z. Cela signifie que tout ce que l’utilisateur A lui envoie sera capturé, traité par reconnaissance optique de caractères et Copilot AI, puis stocké dans une base de données indexée sur les appareils des autres utilisateurs. Cela récupérerait sans discernement toutes sortes de données sensibles de l’utilisateur A, y compris des photos, des mots de passe, des informations médicales, des vidéos et des messages chiffrés. Comme de Privacy Guides l’a écrit Em, rédactrice , sur Mastodon :
Avertissement important concernant Recall de Windows ⚠️ :
Même si vous avez désactivé recall, si vous communiquez avec quelqu’un qui pourrait utiliser cette prochaine fonctionnalité de Windows de Microsoft, soyez extrêmement prudent quant aux informations que vous partagez avec eux.
Quelle que soit l’application sécurisée que vous utilisez, soyez particulièrement prudent lors de l’envoi de :
Photos intimes
Mots de passe ou autres informations sensibles
Conditions médicales
Données personnelles, même via des e-mails sécurisés ou des chats cryptés sécurisés
Informations financières
Chats vidéo, même cryptés
Cette fonctionnalité extraira malheureusement vos informations de tout logiciel sécurisé que vous auriez pu utiliser et les stockera sur l’ordinateur de cette personne d’une manière potentiellement moins sécurisée.
Bien sûr, cette personne pourrait de toute façon prendre manuellement une capture d’écran de tout cela, mais cette fonctionnalité fait que même une personne bien intentionnée pourrait ne pas être consciente qu’elle est activée ou pourrait supposer à tort qu’elle est suffisamment sécurisée.
Cette fonctionnalité n’est pas encore entièrement disponible, mais elle pourrait l’être bientôt.
L’existence d’une base de données facilement consultable capturant chaque instant d’une machine serait également une aubaine pour ceux qui ne se soucient pas des intérêts des utilisateurs. Des archives aussi détaillées feront sans aucun doute l’objet d’assignations à comparaître de la part d’avocats et de gouvernements. Les pirates informatiques qui parviennent à installer leur logiciel espion sur un appareil n’auront plus à le fouiller à la recherche des données les plus sensibles qui y sont stockées. Ils exploiteront Recall comme ils exploitent actuellement les bases de données des navigateurs qui stockent les mots de passe.
Microsoft n’a pas immédiatement répondu à un message demandant pourquoi il réintroduisait Recall moins d’un an après l’accueil glacial réservé à cette fonctionnalité. Pour ses détracteurs, Recall risque de rester l’un des exemples les plus pernicieux d’ ensitification , terme récemment inventé pour désigner l’intégration forcée d’IA et d’autres fonctionnalités indésirables dans des produits existants alors que l’intérêt pour les utilisateurs est négligeable.
