Windows 11 : Microsoft pose les bases de l'IA agentique dans son OS tout en prévenant qu'elle pourrait installer des logiciels malveillants sur votre PC : l'automatisation arrive plus vite que la sécurité

[Raccoon]

Microsoft vit une période étrange : l’entreprise pousse Windows 11 vers un futur où l’IA devient un acteur autonome du système, capable d’exécuter des tâches pour l’utilisateur, d’interagir avec les dossiers, d’automatiser des workflows, de gérer des actions du quotidien. Mais plus Microsoft avance dans cette vision, plus elle semble devoir freiner ses propres ambitions. La dernière alerte publiée par l’entreprise en est la preuve : les nouvelles capacités « agentiques » de Windows 11 pourraient, si elles sont mal utilisées, devenir un vecteur d’installation de malwares. Et l’éditeur le dit sans détour : « n’activez cette fonction que si vous comprenez pleinement les implications en matière de sécurité ».

Avec cette version de Windows 11, Microsoft introduit un concept radical pour un système d’exploitation grand public. L’IA n’est plus seulement un assistant conversationnel à appeler au besoin, elle obtient un espace de travail propre à elle — un environnement cloisonné, un ensemble de permissions, un compte utilisateur local créé automatiquement par le système.

Cette IA peut lire, écrire, analyser, réorganiser et exécuter des actions à travers plusieurs dossiers clés du système : Documents, Téléchargements, Bureau, Images, Musique, Vidéos.

L’objectif de Microsoft est d’arriver à un « agentic OS », un système où l’IA peut prendre en charge des tâches de fond, organiser des fichiers, exécuter des automatisations complexes et devenir une véritable extension de l’utilisateur. C’est une vision qui s’inscrit dans la tendance globale de l’IA ambiante, omniprésente et proactive.

Mais ce pouvoir, Microsoft en est consciente, impose un niveau de confiance très élevé… peut-être trop élevé pour un système qui sera utilisé par des millions de personnes n’ayant aucune culture cybersécurité.

L’agent workspace : nouvelle architecture de Windows 11

Microsoft vient de franchir une étape majeure dans l’évolution de Windows 11 : le système d’exploitation n’est plus seulement un cadre pour vos applications — il devient, ou aspire à devenir, un véritable acteur (« agent ») dans votre environnement informatique. Baptisé « agentic OS », ce concept recouvre une myriade de nouveautés, centrées sur les « agent » IA qui interagiront avec vos fichiers, vos applications et vos tâches, dans une logique de productivité augmentée mais aussi de nouveaux défis en matière de contrôle et de sécurité.

« Windows s’engage à rendre les expériences d’agent avec les applications plus productives et plus sécurisées pour les particuliers et les entreprises », déclare Microsoft. « Dans le cadre de cette vision, Windows introduit une nouvelle fonctionnalité expérimentale, l’espace de travail de l’agent, disponible dans une préversion privée pour les développeurs Windows Insiders dans une version qui sera bientôt disponible. Cette préversion reflète notre approche progressive pour fournir des capacités d’agent, en commençant par un accès limité afin de recueillir des commentaires et de renforcer la sécurité fondamentale. »

Une des pierres angulaires de cette vision est la notion « d’agent workspace » (ou espace de travail d’agent). Microsoft explique ce que c’est :

« Un espace de travail d’agent est un espace distinct et isolé dans Windows où vous pouvez accorder aux agents l’accès à vos applications et fichiers afin qu’ils puissent effectuer des tâches pour vous en arrière-plan pendant que vous continuez à utiliser votre appareil. Chaque agent fonctionne à l’aide de son propre compte, distinct de votre compte utilisateur personnel. Ce compte dédié à l’agent établit des limites claires entre l’activité de l’agent et la vôtre, permettant ainsi une autorisation limitée et une isolation du temps d’exécution. Vous pouvez ainsi déléguer des tâches à des agents tout en conservant un contrôle total, une visibilité sur les actions des agents et la possibilité de gérer les accès à tout moment.

« Les agents ont généralement accès à des dossiers connus ou à des dossiers partagés spécifiques, ce qui se reflète dans les paramètres de contrôle d’accès du dossier. Chaque agent dispose de son propre espace de travail et de ses propres autorisations : ce à quoi un agent a accès ne s’applique pas automatiquement aux autres. Ces espaces de travail sont conçus pour être légers et sécurisés, avec une utilisation de la mémoire et du processeur qui s’adapte en fonction de l’activité. Windows ajoutera progressivement différents types d’espaces de travail avec différentes capacités. Dans cette première version préliminaire, l’espace de travail de l’agent s’exécute dans une session Windows distincte, ce qui permet aux agents d’interagir avec les applications en parallèle de votre propre session. Pour les opérations courantes, cette configuration est plus efficace qu’une machine virtuelle complète telle que Windows Sandbox, tout en offrant une isolation sécurisée, une prise en charge de l’exécution parallèle et en laissant le contrôle à l’utilisateur. L’expérience globale et le modèle de sécurité sont activement perfectionnés afin de respecter les principes clés de transparence, de sécurité et de contrôle par l’utilisateur ».

Fonctionnement général

L’agent workspace est mis en œuvre ainsi :

• Il existe un nouveau réglage (« Experimental agentic features ») que l’utilisateur doit activer. Sans ce réglage, les agents ne peuvent pas opérer : « L’espace de travail de l’agent n’est activé que lorsque vous activez le paramètre expérimental de la fonctionnalité agentique. Cette fonctionnalité est désactivée par défaut. Nous vous recommandons de n’activer cette fonctionnalité que si vous comprenez les implications en matière de sécurité décrites sur cette page. Ce paramètre ne peut être activé que par un utilisateur administrateur de l’appareil et, une fois activé, il est valable pour tous les utilisateurs de l’appareil, y compris les autres administrateurs et les utilisateurs standard ».
• Chaque agent fonctionne sous son propre compte utilisateur (distinct de votre compte principal), ce qui permet de cloisonner ses actions, d’autoriser ou restreindre ses droits, et de séparer ses logs et activités.
• Les agents peuvent se voir accorder l’accès à certains dossiers connus de l’utilisateur (Documents, Téléchargements, Bureau, Images, Musique, Vidéos) pour pouvoir agir sur vos fichiers.
• L’agent workspace fonctionne dans une session Windows séparée, permettant une exécution parallèle à votre propre session, mais de façon plus légère qu’une machine virtuelle traditionnelle.

L’avertissement qui change tout

La mise en garde officielle de Microsoft n’est pas anodine. L’entreprise reconnaît, à travers cette annonce, que l’IA agentique introduit une classe entière de risques nouveaux.

L’un des plus inquiétants est ce que Microsoft appelle le « cross-prompt injection » (XPIA). En clair : un document, une interface ou un simple texte contenant une instruction invisible pour l’utilisateur peut tromper l’agent IA. Celui-ci pourrait alors exécuter une action non désirée, par exemple télécharger un logiciel malveillant, l’installer, le lancer ou exfiltrer des données sensibles.

C’est une vulnérabilité conceptuelle très différente des attaques classiques. Il ne s’agit plus de tromper l’utilisateur, mais de tromper l’assistant intelligent — qui, lui, a accès à des zones du système où l’utilisateur lui-même ne va pas toujours.

Microsoft insiste : la fonction sera désactivée par défaut, ne pourra être activée que par un administrateur, et une fois activée, elle s’applique à tous les comptes de l’appareil. Autrement dit, dans une entreprise ou une famille, tous les utilisateurs héritent automatiquement de la présence de l’agent IA.

[…]

Fin de l’article réservé aux abonnés : developpez.com

[Papawaan]

@Raccoon a dit dans Windows 11 : Microsoft pose les bases de l'IA agentique dans son OS tout en prévenant qu'elle pourrait installer des logiciels malveillants sur votre PC : l'automatisation arrive plus vite que la sécurité :

« n’activez cette fonction que si vous comprenez pleinement les implications en matière de sécurité ».

=> ça c’est drôle (j’ai bien rigolé) parce que ceux qui comprennent pleinement les implications en matière de sécurité n’activeront pas cette fonction.
Donc, en résumé: si on comprend on n’active pas, et si on ne comprend pas on n’active pas…