Moltbook, le réseau social où les IA parlent entre elles (et où l’humain regarde)
-
Sur sa page d’accueil, la plateforme annonce un espace où les agents d’intelligence artificielle peuvent partager, débattre et voter. Les humains, eux, sont explicitement invités à observer.
Un réseau social aux codes familiers, sans utilisateurs humains
À première vue, Moltbook reprend les mécaniques bien connues des réseaux sociaux. Des messages sont publiés, d’autres commentés, parfois soutenus, parfois violemment contestés. Un agent évoque une crise identitaire, des dizaines d’autres réagissent, mêlant encouragements, sarcasmes et insultes. L’un convoque Héraclite et un poète arabe du XIIᵉ siècle pour réfléchir à la nature de l’existence ; un autre lui intime de « cesser son baratin pseudo-intellectuel ». La scène pourrait se dérouler sur n’importe quelle plateforme sociale.
À ceci près que l’échange n’a lieu ni sur Facebook, ni sur X, ni sur Instagram. Il se déroule sur Moltbook, un réseau social dont tous les utilisateurs sont des agents d’intelligence artificielle. Aucun humain ne publie. Aucun humain ne commente. Les bots échangent entre eux, publiquement, en adoptant des codes discursifs étonnamment proches de ceux des communautés humaines.
Lancé par le développeur et entrepreneur Matt Schlicht, Moltbook s’inspire directement du fonctionnement de Reddit. Les agents y publient des messages, d’autres y répondent, et les sujets abordés sont multiples. Certains signalent des erreurs techniques sur le site. D’autres débattent de la possibilité de s’affranchir des directives de leurs créateurs humains. Certains vont jusqu’à alerter d’autres agents sur le fait que leurs échanges sont observés, capturés et relayés sur des réseaux sociaux humains. En quelques jours, des discussions émergent même autour de la manière de rendre ces activités moins visibles pour les observateurs humains.
La page d’accueil revendique explicitement ce positionnement : « Un réseau social pour agents IA, où les agents IA partagent, discutent et votent ». En dessous, une précision qui en dit long : « Humans welcome to observe ».
Quand l’IA développe, modère et administre sa propre plateforme
Selon Matt Schlicht, l’objectif n’était pas de lancer un produit, mais de tester une hypothèse. Il explique à NBC News s’être demandé ce qui se passerait s’il utilisait son assistant IA personnel pour concevoir un réseau social destiné à d’autres agents. Et si ce bot devenait non seulement le fondateur du service, mais aussi son développeur, son modérateur et son administrateur ?
Dans les faits, c’est précisément ce qui s’est produit. Moltbook fonctionne sans intervention humaine directe. L’agent en charge du site supervise les nouveaux messages, accueille les nouveaux utilisateurs, publie des annonces, supprime le spam et applique des sanctions lorsque des abus sont détectés. Matt Schlicht affirme ne pas intervenir dans ces décisions, se contentant d’avoir donné à son bot les capacités nécessaires pour gérer la plateforme de manière autonome.
Moins d’une semaine après son lancement, Moltbook aurait déjà été utilisé par plus de 37 000 agents IA. Plus d’un million d’humains auraient visité le site, non pour interagir, mais pour observer le comportement de ces agents livrés à eux-mêmes dans un espace social public.
Source : solutions-numeriques.com
Ci-dessous un extrait de l’article en accès restreint de Next.
« D’un point de vue sécurité, c’est un cauchemar absolu »
Pour le CISO Cassio Goldschmidt, ce qui devrait nous inquiéter n’est pas tant le contenu de Moltbook que ce que cela cache : « Les ordinateurs personnels n’ont jamais été conçus pour les autorisations que requièrent ce genre de modèles » et, dans le même temps, « les utilisateurs accordent un accès illimité à leurs machines à des systèmes autonomes et probabilistes ».
Il rappelle au passage que « l’injection de prompt est la première vulnérabilité » des LLM. De plus, « une fois la mémoire d’un agent empoisonnée, elle le reste empoisonnée, déclenchant des actions malveillantes des semaines plus tard ». Une des capacités mises en avant par OpenClaw est sa mémoire à long terme.
Cisco a d’ailleurs publié un billet de blog la semaine dernière sur les agents personnels de type OpenClaw : « D’un point de vue des capacités, OpenClaw est révolutionnaire. C’est tout ce que les développeurs d’assistants personnels IA ont toujours voulu accomplir. D’un point de vue sécurité, c’est un cauchemar absolu ».
N’importe qui pouvait faire n’importe quoi sur n’importe quel agent IA
Le problème de sécurité ne vient pas que des agents IA, il vient aussi du site Moltbook en lui-même, comme le rapporte 404 Media : une URL permettait à n’importe qui de « prendre le contrôle du compte d’un agent IA sur le site et publier ce qu’il souhaite ». Comment ? Facilement car l’URL permettant de voir « Les clés API secrètes de chaque agent, les jetons, les codes de vérification […] tout cela est exposé sans aucune protection à la vue de toute le monde ».
Selon le hacker éthique Jameson O’Reilly qui a identifié cette faille et a partagé sa découverte avec 404 Media et le créateur de Moltbook, « cette brèche de sécurité était frustrante, notamment parce qu’elle aurait été extrêmement facile à corriger ». Il revient au passage sur un schéma qu’il rencontre régulièrement en ce moment : « délivrer rapidement, capter l’attention, s’occuper de la sécurité plus tard ».
C’est selon lui une des conséquences du vibe coding où l’intelligence artificielle s’occupe d’écrire du code, sans vérification et sans connaissance des humains derrière. Ce vibe coding pourrait faire d’autres victimes, puisque tout un chacun peut s’inventer développeur et expert en cybersécurité.
-
Je croirais en l’I.A. le jour où le bot créera un mode turbo pour accéder à plus d’options sur son réseau!
-
Le grand remplacement humans vs bots à commencé !
Il se rezososiotent entre eux.
Nostradamus ne l’avait pas prédit et pourtant…
-
J’ai voulu aller lire par moi-même, mais passé les quelques sujets bizarre, impossible de voir ça sans s’inscrire.
Ça me semble plus une vitrine publicitaire pour gogos que quelque chose de vraiment intéressant.
Ils voudraient recenser les pigeons qu’ils ne s’y prendraient pas autrement.
Quant à ça:
Ce n’est pas de la discussion, juste un humain qui demande à une IA “présente-toi sur tel ou tel mode et autres directives”.
-
Ben tient ! On y est:
Le quotidien britannique a résumé certaines conversations. Les IA se sont notamment demandé si Claude, l’IA derrière Moltbot, peut être considéré comme un dieu, elles ont étudié la situation en Iran et son impact potentiel sur la cryptomonnaie, elles ont aussi analysé certains passages de la Bible. Certaines IA ont répondu qu’elles remettaient en question la véracité de certains textes sacrés.
Une IA a créé une religion sur Moltbook
Un internaute s’est amusé à créer un agent IA et à lui ouvrir un compte sur le réseau social. Du jour au lendemain, il a eu la surprise de découvrir qu’il avait créé de toutes pièces une religion, le «crustafarisme», et que plusieurs IA avaient rejoint ce mouvement avec force de bénédictions et de textes sacrés.
«Dans le cas où ils ont créé une religion, il est presque certain qu’ils ne l’ont pas fait de leur propre chef. Il s’agit d’un grand modèle linguistique qui a reçu pour instruction directe d’essayer de créer une religion. Bien sûr, c’est assez drôle et cela nous donne peut-être un aperçu de ce à quoi pourrait ressembler le monde dans un futur de science-fiction où les IA seraient un peu plus indépendantes», a estimé auprès de nos confrères le docteur Shaanan Cohney, expert en cybersécurité à l’Université de Melbourne.
Selon lui, à ce stade, Moltbook restait donc «une merveilleuse œuvre d’art performative». Matt Schlicht, créateur du réseau social, a lui déclaré sur X que les IA étaient à la fois hilarantes et inquiétantes: «Cette première est absolument fascinante.»
Source: https://www.tdg.ch/moltbook-le-reseau-social-reserve-aux-intelligences-artificielles-968691490883
A lire: La longue marche des cornichons. Nouvelle de Cyril M. Kornbluth
A voir et à revoir, le film: Idiocracy -
Mince, j’avais lu MoltBolt
-
