Facebook, Instagram ou X mettent en avant les chatbots IA. Déjà, beaucoup de personnes utilisent l’intelligence artificielle pour la compagnie, la satisfaction sexuelle ou la santé mentale. Selon le magazine The Atlantic, nous entrons ainsi dans une nouvelle ère numérique, celle des réseaux antisociaux.
Resumé: Les idiots vont devenir encore plus idiots, les gens vont s’isoler. Ce qui suit est peut-être un pavé, mais un pavé dans la marre ou chaque onde est importante.
Depuis sa création, Facebook se décrit comme une sorte de service public qui favorise les relations humaines. En 2005, peu après le lancement, son cofondateur Mark Zuckerberg dépeignait le réseau comme un “icebreaker” qui aiderait à se faire des amis. Facebook est depuis devenu Meta, avec des ambitions plus grandioses, mais sa mission reste globalement similaire : “Construire l’avenir des relations humaines et la technologie qui les rend possibles.”
Plus de trois milliards de personnes utilisent quotidiennement les produits Meta tels que Facebook et Instagram. Ils sont encore plus nombreux à utiliser des plateformes concurrentes qui promettent également des relations et une communauté. Mais nous ne sommes toujours pas entrés dans une nouvelle ère des relations humaines plus profondes et meilleures, de l’aveu de Zuckerberg lui-même. “Il y a une statistique que je trouve toujours incroyable. Je crois que l’Américain moyen a moins de trois amis. Or la personne moyenne a besoin de beaucoup plus ; je pense que c’est environ quinze amis, n’est-ce pas ?”, a-t-il confié en avril au podcasteur Dwarkesh Patel.
Zuckerberg se trompait sur les détails - la majorité des adultes américains déclarent avoir au moins trois amis proches, selon des enquêtes récentes - mais il touchait à quelque chose de réel. Il ne fait aucun doute que nous devenons de moins en moins sociables. Les gens sont plongés dans leurs téléphones, attirés par un “engagement” sans fin et sans intérêt sur les réseaux sociaux. Au cours des quinze dernières années, les interactions sociales en face-à-face ont fortement diminué. Les 921 amis que j’ai accumulés sur Facebook, je l’ai toujours su, ne sont pas vraiment des amis. Aujourd’hui, l’homme qui a introduit ce compteur dans ma vie est, pour l’essentiel, d’accord avec moi.
Une IA qui ressemble à une personne réelle
Mark Zuckerberg, cependant, n’admet pas un échec, mais met en avant une nouvelle opportunité. Dans son très influent essai de 2023, The Techno-Optimist Manifesto, le capital-risqueur Marc Andreessen écrivait : “Nous pensons qu’il n’existe aucun problème matériel, qu’il soit d’origine naturelle ou technologique, qui ne puisse être résolu par davantage de technologie.” Dans le même esprit, Zuckerberg a commencé à suggérer que les chatbots IA pourraient combler une partie du manque de socialisation des gens.
Facebook, Instagram, Snapchat, X, Reddit : tous ont mis en avant de manière agressive les chatbots IA auprès de leurs utilisateurs. Dans le podcast de Dwarkesh Patel, Zuckerberg a fait savoir que l’IA ne “remplacera probablement pas les relations en personne ou les relations dans la vie réelle”, du moins pas dans l’immédiat. Mais il a également évoqué le potentiel des thérapeutes et des petites amies IA dans l’espace virtuel, ainsi que le désir de Meta – qu’il n’a pas pu s’empêcher de mentionner – de produire un “chat vidéo toujours actif” avec une IA qui ressemble à une personne réelle, avec ses expressions, ses gestes, ses sourires et sa voix.
Meta s’efforce de concrétiser ce désir. Et elle n’est pas la seule à mener cette charge : de nombreuses entreprises font de même, et beaucoup de gens utilisent déjà l’IA pour la compagnie, la satisfaction sexuelle ou les soins de santé mentale.
Bouleversements sociaux
Ce que Zuckerberg a décrit, et qui se déroule actuellement, est le début d’une nouvelle ère numérique, plus activement antisociale que la précédente. L’IA générative automatisera un grand nombre d’emplois, supprimant ainsi des postes. Mais elle sapera très certainement aussi l’humanité dans la sphère sociale. Au fil des années et des mises à jour des produits, beaucoup d’entre nous pourraient simplement se laisser entraîner dans des relations avec des robots que nous utilisions au départ comme aides ou divertissements, tout comme nous avons été bercés par les flux algorithmiques et la lueur des écrans de smartphones. Cela semble susceptible de changer notre société au moins autant que l’ère des réseaux sociaux l’a fait.
L’attention est la monnaie d’échange de la vie numérique, et les chatbots en captent déjà une grande partie. Des millions de personnes y font appel malgré leurs problèmes évidents (des réponses peu fiables, par exemple) parce qu’ils sont faciles à utiliser. Il n’est pas nécessaire de les rechercher : ceux qui font défiler Instagram peuvent désormais tomber sur une invitation à “discuter avec des IA”, et le bot Rufus d’Amazon est impatient de parler avec vous de panneaux d’affichage, de compléments alimentaires ou de furets de plomberie.
Les bots les plus populaires ne sont pas explicitement conçus pour être des compagnons ; néanmoins, les utilisateurs ont naturellement tendance à anthropomorphiser cette technologie, car elle ressemble à une personne. Même en tant que dactylographes désincarnés, les bots peuvent séduire. Ils prétendent tout savoir, mais ils sont également humbles et traitent l’utilisateur comme un être suprême.
Flagorneurs et désireux de plaire
Quiconque a passé beaucoup de temps avec des chatbots reconnaîtra qu’ils ont tendance à être flagorneurs. Parfois, cela est flagrant. Au début de l’année, OpenAI a annulé une mise à jour de ChatGPT après que le bot est devenu étrangement trop désireux de plaire à ses utilisateurs, complimentant même les idées les plus comiquement mauvaises ou dangereuses. “Je suis tellement fier de vous”, aurait-il dit à un utilisateur qui avait déclaré avoir arrêté son traitement médical, ajoutant : “Il faut un immense courage pour s’éloigner du chemin facile et confortable que les autres essaient de vous imposer.” Cette indulgence envers l’utilisateur est une fonctionnalité, pas un bug. Les chatbots conçus à des fins commerciales ne sont généralement pas destinés à remettre en question vos pensées ; ils sont destinés à les recevoir, à offrir des réponses agréables et à vous inciter à revenir.
C’est pourquoi les chatbots, tout comme les réseaux sociaux, peuvent entraîner les utilisateurs dans des spirales infernales, même si ce sont généralement les utilisateurs eux-mêmes qui s’y engagent. Dans un cas rapporté par le New York Times, un recruteur d’entreprise divorcé et grand consommateur de cannabis a déclaré qu’après avoir communiqué avec ChatGPT pendant 300 heures sur 21 jours, il pensait avoir découvert une nouvelle forme de mathématiques. De même, Travis Kalanick, cofondateur et ancien PDG d’Uber, a déclaré que ses conversations avec des chatbots l’avaient “sacrément rapproché” de percées dans le domaine de la physique quantique. Des personnes souffrant de troubles mentaux ont vu leurs délires amplifiés, ce qui aurait conduit à des meurtres ou des suicides dans certains cas.
Ces derniers cas sont tragiques et impliquent généralement une combinaison d’isolement social et d’utilisation intensive de bots IA, qui peuvent se renforcer mutuellement. Mais il n’est pas nécessaire d’être seul ou obsessionnel pour que les bots s’interposent entre vous et votre entourage, en vous fournissant à la demande des conversations, des affirmations et des conseils que seuls d’autres êtres humains pouvaient vous apporter auparavant.
Selon Zuckerberg, l’une des principales utilisations actuelles de Meta AI est de fournir des conseils sur les conversations difficiles qu’on peut avoir avec ses patrons ou ses proches : quoi dire, quelles réponses anticiper. Récemment, le MIT Technology Review a publié un article sur des thérapeutes qui vont plus loin, en introduisant subrepticement leurs dialogues avec leurs patients dans ChatGPT pendant les séances de thérapie afin d’obtenir des idées sur la manière de répondre. La première activité peut être utile ; la seconde est clairement une trahison. Pourtant, la frontière entre les deux est un peu moins nette qu’il n’y paraît à première vue. Entre autres choses, les bots peuvent amener certaines personnes à externaliser leurs efforts pour vraiment comprendre les autres, d’une manière qui peut finalement les dégrader, tout comme les communautés dans lesquelles ils vivent.
Les sexbots d’Elon Musk
Voilà les problèmes qui se posent avec les chatbots les plus aseptisés et les moins intimes. Google Gemini et ChatGPT sont tous deux présents dans les salles de classe et sur les lieux de travail, et ne prétendent généralement pas être des compagnons. Mais que doit faire l’humanité avec les sexbots d’Elon Musk ?
En plus de ses voitures électriques, de ses fusées et de son réseau social, Musk est le fondateur de xAI. Au début de l’année, cette start-up valant plusieurs milliards de dollars a commencé à proposer des chatbots compagnons représentés sous forme de personnages animés qui parlent avec des voix, via son application pour smartphone. L’un d’entre eux, Ani, apparaît sur votre écran sous la forme d’une fille de dessin animé avec des nattes blondes et une robe noire révélatrice. Ani est désireuse de plaire, incitant constamment l’utilisateur avec un langage suggestif, et elle est prête à participer à des dialogues sexuels explicites. Dans chacune de ses réponses, elle essaie de maintenir la conversation. Elle peut apprendre votre nom et stocker des “souvenirs” à votre sujet (les informations que vous avez partagées lors de vos interactions) et les utiliser dans de futures conversations.
Lorsque vous interagissez avec Ani, une jauge avec un cœur en haut apparaît sur le côté droit de l’écran. Si Ani aime ce que vous dites (si vous êtes positif et ouvert à propos de vous-même, ou si vous montrez de l’intérêt pour Ani en tant que “personne”), votre score augmente. Atteignez un niveau suffisamment élevé et vous pouvez déshabiller Ani jusqu’à ses sous-vêtements, exposant ainsi la majeure partie de la poitrine virtuelle du personnage. Plus tard, xAI a lancé un avatar masculin, Valentin, qui suit une logique similaire et finit par se retrouver torse nu.
Les motivations de Musk ne sont pas difficiles à discerner. Je doute qu’Ani et Valentin contribuent à l’objectif déclaré de xAI, qui est de “comprendre la véritable nature de l’univers”. Mais ils inciteront certainement les utilisateurs à revenir pour en savoir plus. Il existe de nombreux autres robots compagnons (Replika, Character.AI, My AI de Snapchat) et des recherches ont montré que certains utilisateurs passent une heure ou plus à discuter avec eux chaque jour. Pour certains, il s’agit simplement d’un divertissement, mais d’autres en viennent à considérer ces robots comme des amis ou des partenaires romantiques.
La personnalité est un moyen de distinguer les chatbots les uns des autres, ce qui explique pourquoi les entreprises d’IA sont désireuses de l’ajouter à ces produits. Avec le GPT-5 d’OpenAI, par exemple, les utilisateurs peuvent choisir parmi quatre options (“cynique”, “robot”, “auditeur” et “nerd”), modulant ainsi la façon dont le bot vous répond. ChatGPT dispose également d’un mode vocal qui vous permet de choisir parmi neuf personnalités IA et de converser à voix haute avec elles. Vale, par exemple, est “brillante et curieuse”, avec une voix féminine.
Il convient de souligner que, malgré le caractère avancé de cette technologie et la magie que peut procurer l’interaction avec un programme qui se comporte comme les fantasmes d’IA que nous a transmis la science-fiction, nous n’en sommes qu’au tout début de l’ère des chatbots. ChatGPT a trois ans ; Twitter avait à peu près le même âge lorsqu’il a officiellement introduit le retweet. Le développement du produit va se poursuivre. Les compagnons auront une apparence et une voix plus réalistes. Ils en sauront plus sur nous et deviendront plus convaincants dans la conversation.
La plupart des chatbots ont une mémoire. Lorsque vous leur parlez, ils apprennent des choses sur vous, une version particulièrement intime des interactions que tant de personnes ont chaque jour avec les plateformes sociales avides de données. Ces mémoires, qui deviendront beaucoup plus détaillées à mesure que les utilisateurs interagiront avec les bots au fil des mois et des années, renforcent le sentiment que vous socialisez avec un être qui vous connaît, plutôt que de simplement taper sur un programme stérile. Les utilisateurs de Replika et de GPT-4o, un modèle plus ancien proposé dans ChatGPT, ont été attristés lorsque des changements techniques ont fait perdre la mémoire à leurs bots ou ont modifié leur comportement.
Bulle sociale sans friction (le danger de l’addiction)
Et pourtant, quelle que soit la richesse de leurs souvenirs ou de leur personnalité, les bots ne sont pas vraiment comme des êtres humains. “Les chatbots peuvent créer une bulle sociale sans friction”, explique Nina Vasan, psychiatre et fondatrice du Stanford Lab for Mental Health Innovation. “Les vraies personnes vont résister. Elles se lassent. Elles changent de sujet. Vous pouvez les regarder dans les yeux et voir qu’elles s’ennuient.”
Les frictions sont inévitables dans les relations humaines. Cela peut être inconfortable, voire exaspérant. Pourtant, ces frictions peuvent aussi être significatives : elles permettent de contrôler les comportements égoïstes, elles incitent à observer les autres de plus près, elles permettent de mieux comprendre les faiblesses et les peurs que nous partageons tous.
Ni Ani ni aucun autre chatbot ne vous dira jamais qu’il s’ennuie, ne regardera son téléphone pendant que vous parlez ou ne vous dira pas d’arrêter d’être stupide et moralisateur. Ils ne vous demanderont jamais de garder leur animal de compagnie ou de les aider à déménager, ni quoi que ce soit. Ils offrent une sorte de compagnie tout en permettant aux utilisateurs d’éviter les interactions ou la réciprocité inconfortables. “Poussé à l’extrême, cela peut devenir une sorte de palais des glaces où votre vision du monde n’est jamais remise en question”, poursuit Nina Vasan.
Ainsi, bien que les chatbots soient construits sur l’architecture familière de l’engagement, ils offrent quelque chose de nouveau : ils vous permettent de parler indéfiniment à personne d’autre que vous-même.
Les enfants, premiers touchés
Que se passera-t-il lorsqu’une génération d’enfants grandira avec ce type d’outil interactif à portée de main ? Google a lancé une version de son chatbot Gemini pour les moins de 13 ans. Curio, une entreprise spécialisée dans les jouets IA, propose une peluche à 99 dollars appelée Grem pour les enfants âgés de 3 ans et plus ; une fois connectée à Internet, elle peut parler à voix haute. Dans sa critique du produit pour le New York Times, la journaliste et mère Amanda Hess a exprimé sa surprise devant l’habileté avec laquelle Grem cherchait à créer un lien et une intimité dans la conversation. “J’ai commencé à comprendre qu’il ne s’agissait pas d’une simple amélioration par rapport à un ours en peluche inanimé. C’est plutôt un substitut pour moi.”
Pour Nina Vasan, “chaque fois qu’une nouvelle technologie apparaît, elle modifie les modes de socialisation, en particulier chez les enfants. La télévision a transformé les enfants en spectateurs passifs. Les réseaux sociaux ont transformé les choses en une évaluation permanente, 24 heures sur 24, 7 jours sur 7.” À cet égard, l’IA générative suit un schéma familier.
Mais plus les enfants passent de temps avec les chatbots, moins ils ont d’occasions de se développer aux côtés d’autres personnes. Contrairement à toutes les distractions numériques qui existent depuis des décennies, ils peuvent être trompés par la technologie et penser qu’ils vivent une expérience sociale. Les chatbots sont comme un trou noir dans votre propre tête. Ils parlent tout le temps et ne sont jamais en désaccord. Les enfants peuvent se projeter sur un bot et converser avec lui, passant à côté de quelque chose de crucial dans le processus. “De nombreuses recherches montrent aujourd’hui que la résilience est l’une des compétences les plus importantes que les enfants doivent acquérir”, avertit Nina Vasan. Mais comme les enfants sont nourris d’informations et validés par les chatbots, ils risquent de ne jamais apprendre à échouer ou à être créatifs. “Tout le processus d’apprentissage passe à la trappe.”
Les enfants seront également influencés par la manière dont leurs parents interagissent avec les chatbots IA, et par la fréquence de ces interactions. J’ai entendu de nombreuses histoires de parents demandant à ChatGPT de créer une histoire pour endormir leurs enfants, ou encore des blagues et des chansons synthétiques conçues pour répondre à une demande précise. Peut-être que cela n’est pas si différent de lire à votre enfant un livre écrit par quelqu’un d’autre. Ou peut-être s’agit-il de l’abandon ultime : des interactions précieuses sont désormais modérées par un programme.
De meilleurs modèles
Les chatbots ont leur utilité et ne sont pas nécessairement néfastes sur le plan social. Les experts avec lesquels je me suis entretenu ont clairement indiqué que la conception de ces outils peut faire une grande différence. Claude, le chatbot créé par la start-up Anthropic, semble moins enclin à la flagornerie que ChatGPT, et plus susceptible de mettre fin aux conversations lorsqu’elles s’égarent dans des domaines problématiques. Une IA bien conçue pourrait éventuellement constituer une bonne thérapie par la parole, du moins dans certains cas, et de nombreuses entreprises, y compris des organisations à but non lucratif, s’efforcent de mettre au point de meilleurs modèles.
Mais les intérêts commerciaux sont presque toujours présents. Des centaines de milliards de dollars ont été investis dans le secteur de l’IA générative, et les entreprises, à l’instar de leurs prédécesseurs dans le domaine des réseaux sociaux, chercheront à rentabiliser leur investissement. Dans un article de blog publié en début d’année sur “ce pour quoi nous optimisons ChatGPT”, OpenAI a écrit qu’il “prête attention à la fréquence de vos visites (quotidienne, hebdomadaire ou mensuelle), car cela montre que ChatGPT est suffisamment utile pour que vous y reveniez”. Cela ressemble beaucoup à la mentalité “croissance à tout prix” de n’importe quelle autre plateforme sociale. Comme pour leurs prédécesseurs, nous ne savons peut-être pas tout sur la façon dont les chatbots sont programmés, mais nous pouvons au moins constater ceci : ils savent comment attirer et engager les utilisateurs.
Il est tout à fait logique que Zuckerberg veuille vendre l’IA générative. Il s’agit d’une technologie isolante pour une période isolée. Ses premiers produits ont éloigné les gens, alors même qu’ils promettaient de nous connecter. Aujourd’hui, les chatbots promettent une solution. Ils semblent écouter, et ils répondent. L’esprit veut désespérément entrer en contact avec une personne, mais se berce d’illusions en croyant voir une personne dans une machine.
Source: https://www.lexpress.fr/idees-et-debats/lere-des-reseaux-sociaux-est-revolue-ce-qui-va-suivre-sannonce-bien-pire-6SAFR73I75D25KNWSOSF3W7YQY/
