Microsoft annonce Recall : une IA qui se souvient de tout ce que vous faites sur votre PC

[duJambon]

@Popaul a dit dans Microsoft annonce Recall : une IA qui se souvient de tout ce que vous faites sur votre PC :

Non mais, c’est important d’être surveillé comme ça… histoire qu’on puisse te dire que c’est là que t’as laissé tes derniers épisodes de ta série du moment !

C’est vrai qu’à partir du moment où on devient gâteux, ce genre de choses commence éventuellement à avoir de l’intérêt et vu que la pyramide de l’âge va s’inverser très vite, ce sera toujours mieux que de rester à croupir dans un coin.

[Violence]

Ouai je sens que je vais faire un dual boot. Pour l’instant, c’est pas pour tt le monde mais si ça le deviens et qu’on ne peut pas le désactiver --> Dual boot pour les jeux…

[Ern Dorr]

@Violence Et surtout le DDL !



[Violence]

@Ern-Dorr why ?

[Popaul]

J’avoue ne pas avoir pigé le rapport entre le dual boot Win+Linux, le gaming et le DDL

[Ern Dorr]

@Violence Eh bien si tu es pisté à ce point on risque peut-être de suivre les sites que tu fréquentes et ce que tu télécharges no?


[Ashura]

@Violence j’espère qu’il y aura un soft pour désactiver cette merde

[Ashura]

[michmich]

@Popaul a dit dans Microsoft annonce Recall : une IA qui se souvient de tout ce que vous faites sur votre PC :

J’avoue ne pas avoir pigé le rapport entre le dual boot Win+Linux

Windows pour jouer et applis exclusives, Linux pour le reste en mode pépère sans flicage.

[Popaul]

@michmich
Merci mais je sais ce qu’est un dual boot ^^
Je pige pas trop le rapport avec le DDL… mais finalement pourquoi pas si, justement, on pouvait trouver un log pour désactiver cette IA ^^

[michmich]

@Popaul Je me doute bien que tu savais en relisant le post de @Violence je me demande si il parle pas plutôt d’un dual boot Win 11/10.

[Mister158]

y’a eu très rapidement de quoi désactiver toutes les pubs … y’aura encore ce qu’il faut pour cette merde !

[Violence]

@michmich a dit dans Microsoft annonce Recall : une IA qui se souvient de tout ce que vous faites sur votre PC :

@Popaul Je me doute bien que tu savais en relisant le post de @Violence je me demande si il parle pas plutôt d’un dual boot Win 11/10.

Non je parlais bien de dual boot GNU/Windows
Je comprenais juste pas le délire du DDL la dedans… (Mais je viens de comprendre avec l’explication de @Ern-Dorr qui est somme toute pertinente.)

Après ce truc marche avec copilot et certains type de machine, et pour l’instant on peut le désactiver ce copilot. (Pour combien de temps ?>

Désolé de la réponse tardive mais je sors tt juste de la séance de Furiosa

[michmich]

@Violence et dire qu’a l’époque tout le monde râlait sur les nouveaux outils de surveillance de Vista.

[Violence]

En effet @michmich , le truc c’est que l’IA est partout et GNU ne vas pas forcément y échapper peu importe la forme que ça va prendre. Les dev GNU se prennent la tête en ce moment sur le code généré par l’IA et les problèmes que ça peux causer.

Je partagerai l’article demain sûr le sujet.

[michmich]

@Violence J’ose espérer que ça ne sera pas à même dessein, mais j’imagine bien que ça les démange.

Je connais mal l’univers GNU, mais je me risque à penser que les finalités sont différentes. (enfin j’espère).

[Violence]

Oui il y a bcp la question d’éthique dans le libre et l’IA ne l’est clairement pas !

[Violence]

Recall de Windows 11 donne la possibilité à des tiers de voler tout ce que vous avez tapé ou regardé sur votre PC

https://microsoft.developpez.com/actu/358547/Recall-de-Windows-11-donne-la-possibilite-a-des-tiers-de-voler-tout-ce-que-vous-avez-tape-ou-regarde-sur-votre-PC-d-apres-les-tests-effectues-par-un-chercheur-en-securite/

[duJambon]

Windows Recall exige un niveau de confiance extraordinaire que Microsoft n’a pas gagné

Article d’opinion : Les risques de recall sont bien trop élevés pour que la sécurité soit secondaire.

Comme l’ont immédiatement souligné de nombreux utilisateurs des communautés d’infosec sur les réseaux sociaux, cela ressemble à un cauchemar potentiel en matière de sécurité. C’est doublement vrai parce que Microsoft affirme que par défaut, les captures d’écran de Recall ne prennent aucune peine à caviarder les informations sensibles, des noms d’utilisateur et mots de passe aux informations sur les soins de santé en passant par les visites de sites NSFW. Par défaut, sur un PC doté de 256 Go de stockage, Recall peut stocker quelques dizaines de gigaoctets de données sur trois mois d’utilisation du PC, soit une énorme quantité de données personnelles.

Les PC Copilot+ doivent disposer d’une unité de traitement neuronal (NPU) rapide afin que le traitement puisse être effectué localement plutôt que d’envoyer les données vers le cloud ; les instantanés locaux sont protégés au repos par les technologies de chiffrement de disque de Windows, qui sont généralement activées par défaut si vous êtes connecté à un compte Microsoft ; ni Microsoft ni les autres utilisateurs du PC ne sont censés pouvoir accéder aux instantanés de rappel d’un utilisateur particulier ; et les utilisateurs peuvent choisir d’exclure des applications ou (dans la plupart des navigateurs) des sites Web individuels à exclure des instantanés de Recall.

Tout cela semble bien en théorie, mais certains utilisateurs commencent à l’utiliser. Rappelons maintenant que la mise à jour de Windows 11 24H2 est disponible sous forme d’aperçu et que la mise en œuvre réelle présente de sérieux problèmes.

Le chercheur en sécurité Kevin Beaumont, d’abord dans un fil de discussion sur Mastodon et plus tard dans un article de blog plus détaillé , a écrit sur certains des problèmes de mise en œuvre potentiels après avoir activé Recall sur un système non pris en charge (ce qui est actuellement le seul moyen d’essayer Recall depuis les PC Copilot+ qui le support officiel, la fonctionnalité ne sera disponible que plus tard ce mois-ci). Nous avons également essayé cette première version de Recall sur un Windows Dev Kit 2023 , que nous avons utilisé pour tous nos récents tests Windows-on-Arm , et nous avons vérifié de manière indépendante les affirmations de Beaumont sur la facilité de recherche. et affichez les données brutes de rappel une fois que vous avez accès au PC d’un utilisateur.

Pour tester Recall yourself, le développeur et passionné de Windows Albacore a publié un outil appelé AmperageKit qui l’activera sur les PC Windows basés sur Arm exécutant Windows 11 24H2 build 26100.712 (la version actuellement disponible dans le canal Windows Insider Release Preview). Les autres versions de Windows 11 24H2 ne disposent pas du code sous-jacent nécessaire pour activer le rappel.

La version courte est la suivante : dans sa forme actuelle, Recall prend des captures d’écran et utilise l’OCR pour récupérer les informations sur votre écran ; il écrit ensuite le contenu des fenêtres ainsi que les enregistrements des différentes interactions utilisateur dans une base de données SQLite stockée localement pour suivre votre activité. Les données sont stockées pour chaque application, probablement pour faciliter le fonctionnement de la fonctionnalité d’exclusion d’applications de Microsoft. Beaumont affirme que « plusieurs jours » de données représentaient une base de données d’environ 90 Ko. Dans notre utilisation, les captures d’écran prises par Recall sur un PC avec un écran 2560 × 1440 pèsent 500 Ko ou 600 Ko chacune (Recall enregistre les captures d’écran à la résolution native de votre PC, moins la zone de la barre des tâches).

Recall fonctionne localement grâce au code Azure AI qui s’exécute sur votre appareil, et il fonctionne sans connectivité Internet et sans compte Microsoft. Les données sont cryptées au repos, en quelque sorte, du moins dans la mesure où l’intégralité de votre disque est généralement cryptée lorsque votre PC est connecté à un compte Microsoft ou que Bitlocker est activé. Mais dans sa forme actuelle, Beaumont affirme que Recall présente «des lacunes dans lesquelles vous pouvez conduire un avion» qui facilitent grandement la saisie et la numérisation de la base de données Recall d’un utilisateur si vous (1) avez un accès local à la machine et pouvez vous connecter à n’importe quel ordinateur. compte (pas seulement le compte de l’utilisateur dont vous essayez de voir la base de données), ou (2) vous utilisez un PC infecté par une sorte de virus voleur d’informations qui peut rapidement transférer la base de données SQLite vers un autre système.

Accéder aux données de rappel d’un autre utilisateur à partir d’un autre compte administrateur sur le même PC. Cette invite UAC est la seule chose qui m’empêche d’entrer, et elle est facilement ignorée. Une fois que j’accède au dossier, je peux voir chaque capture d’écran ainsi que la base de données SQLite contenant toutes les données OCR.

Beaumont affirme qu’un accès administrateur au système n’est pas requis pour lire la base de données de rappel d’un autre utilisateur. Un autre utilisateur disposant d’un compte administrateur peut facilement récupérer la base de données de rappel de n’importe quel autre utilisateur et toutes les captures d’écran de rappel en cliquant sur une simple invite UAC. La base de données SQLite est stockée en texte brut et les données en transit ne sont pas non plus cryptées, ce qui facilite grandement l’accès à la base de données stockée des activités passées et la surveillance des nouvelles entrées au fur et à mesure que Recall les crée. Les captures d’écran sont stockées sans extension de fichier, mais ce sont d’anciens fichiers image ordinaires qui peuvent facilement être ouverts et visualisés dans n’importe quel navigateur Web ou éditeur d’images.

L’autre gros problème est que, comme le rappel est activé par défaut et que vous devez exclure manuellement des applications ou des sites Web spécifiques, la base de données SQLite conservera des enregistrements des activités explicitement destinées à être cachées ou temporaires. Cela inclut l’affichage des pages en mode navigation privée dans certains navigateurs, les e-mails ou messages que vous supprimez de votre appareil et les fichiers que vous modifiez ou supprimez.

Beaumont dit qu’il attend de publier certains détails pour « donner à Microsoft le temps de faire quelque chose » à propos de la fonctionnalité telle qu’elle est actuellement implémentée. Mais il a souligné des efforts tels que ce script « TotalRecall » comme exemple de la rapidité et de la facilité avec lesquelles les données de rappel peuvent être volées et recherchées.

Il y a quand-même des facteurs atténuants. Le rappel commencera par la livraison sur seulement une poignée de nouveaux systèmes Windows 11. Il peut être entièrement désactivé si vous ne souhaitez pas l’utiliser, et les commandes permettant de désactiver les instantanés de rappel pour certaines applications ou sites donnent théoriquement aux utilisateurs suffisamment de contrôle pour qu’ils puissent utiliser Recall comme prévu sans stocker d’informations trop sensibles dans la base de données.

Mais étant donné la grande quantité de données récupérées par Recall, les garanties minimales mises en place par Microsoft pour protéger cette base de données une fois qu’un utilisateur malveillant a accès à votre PC, et le fait que de nombreux utilisateurs de PC ne touchent jamais aux paramètres par défaut, les risques pour l’utilisateur les données semblent bien supérieures aux avantages potentiels de cette fonctionnalité.

Microsoft a du mal à garantir la sécurité et la confidentialité de ses produits. Il y a à peine un mois, le PDG Satya Nadella s’est engagé à faire de la sécurité la chose la plus importante de l’entreprise, à la suite de multiples très médiatisées violations de données et de divulgations d’informations mal gérées . La rémunération des dirigeants est en partie liée à la sécurité ; On dit aux employés de base de « faire de la sécurité », même lorsqu’ils « sont confrontés au compromis entre la sécurité et une autre priorité », a déclaré Nadella. Lancer Recall avec des failles de sécurité aussi manifestement exploitables va à l’encontre de cette directive.

Même si Recall était mieux verrouillé, un autre problème est que Windows 11 a érodé la confiance et la patience de ses utilisateurs au fil du temps en poussant sans cesse les autres produits et services de Microsoft et en refusant de respecter les choix des utilisateurs une fois qu’ils ont été faits. L’entreprise fréquemment trouve de nouveaux endroits pour placer des annonces ; une « installation propre » du système d’exploitation est accompagnée d’applications tierces non demandées et de notifications continues concernant d’autres services Microsoft ; la fonctionnalité Bing Chat puis Copilot ont été déployées rapidement auprès de l’ensemble de la base d’utilisateurs bien qu’il s’agisse de produits « en avant-première » sujets à des problèmes .

Rien de tout cela n’est directement lié à Recall, mais cela démontre la volonté de Microsoft de faire passer la réduction des revenus avant l’expérience utilisateur, ce qui me rend intrinsèquement sceptique quant aux fonctionnalités d’IA de Windows en général et à Recall en particulier. Une énorme base de données consultable sur l’activité des PC serait un Saint Graal pour les annonceurs, et étant donné la volonté de Microsoft de détruire Windows 11 au cours des deux dernières années et demie, il est difficile pour moi de croire que l’entreprise restera engagée à maintenir les données collectées par Recall sont totalement privées.

Le rappel n’est pas finalisé. Il ne sera pas disponible sur la grande majorité des PC Windows. Même une fois que les PC Copilot+ d’Intel et d’AMD arriveront sur le marché, il faudra au moins un an ou deux pour que les NPU compatibles apparaissent sur les PC de milieu de gamme et bas de gamme. Ceux qui le détestent vraiment pourront le désactiver, même si la liste « au moins vous pouvez le désinstaller/le désactiver ! » les choses dans Windows 11 deviennent extrêmement longues.

Nous avons également contacté Microsoft pour nous poser des questions sur ces préoccupations et savoir si la version de Recall que vous pouvez tester sur un PC Arm dès maintenant est la même que celle que les utilisateurs finaux obtiendront sur les PC Copilot+ ; Au moment d’écrire ces lignes, la société n’a pas répondu.

Mais disons-le de cette façon : Microsoft intègre une fonctionnalité dans Windows qui surveille et enregistre une tonne de données sur vous et la façon dont vous utilisez votre PC. Traditionnellement, nous appellerions cela un « logiciel espion ». La différence est que Microsoft donne sa bénédiction à cette fonctionnalité particulière de collecte de données et en fait la publicité comme fonctionnalité de bannière de sa prochaine vague de PC Copilot+.

Le fait que les données soient traitées localement plutôt que dans le cloud est une bonne première étape, mais c’est aussi le strict minimum. Sur la base à la fois des paramètres permissifs par défaut et de la facilité avec laquelle ces données sont accessibles, les mesures de sécurité de Recall telles qu’elles existent actuellement ne sont tout simplement pas suffisantes.

Si Microsoft a vraiment l’intention que tout le monde au sein de l’entreprise « fasse de la sécurité », il doit faire passer ces préoccupations avant sa volonté apparemment dévorante d’insérer des fonctionnalités d’IA générative dans chacun de ses produits. L’amélioration de Recall avant qu’il ne soit généralement disponible doit être une priorité, même si cela retarde le lancement.

Source: https://arstechnica.com/ai/2024/06/windows-recall-demands-an-extraordinary-level-of-trust-that-microsoft-hasnt-earned/

[Ashura]

@Violence a dit dans Microsoft annonce Recall : une IA qui se souvient de tout ce que vous faites sur votre PC :

Recall de Windows 11 donne la possibilité à des tiers de voler tout ce que vous avez tapé ou regardé sur votre PC

Putain c’était sur que ça allait être open bar, quel est le con chez Microsoft qui a eu cette idée

J’espère vraiment que ça sera desactivable sinon ça va être une hécatombe