« Les géants d’Internet ont une vision productiviste et triste de l’intelligence »

[Raccoon]

Pour l’écrivain britannique James Bridle, auteur d’un nouvel essai (Toutes les intelligences du monde, Seuil, 2023), notre vision étroite de l’intelligence artificielle, et notre obsession pour elle, nous font passer à côté des innombrables autres formes d’intelligences qui nous entourent, et dont nous ferions bien nous inspirer.

Usbek & Rica : Dès l’introduction de votre livre, vous affirmez que l’intelligence artificielle ne prend pas la bonne direction, qu’elle nous conduit en quelque sorte à détruire toujours plus la planète. C’est-à-dire ?
James Bridle

James Bridle

Toutes les conversations que nous avons à propos de l’IA sont surfaites. Nous sommes dans l’emballement le plus total car il n’y a eu aucune réelle avancée dans la façon dont nous pensons et concevons des IA depuis plusieurs décennies. La seule chose qui s’est passée, c’est que les ordinateurs sont devenus plus puissants et que l’on parvient à collecter de plus en plus de données, essentiellement sur nous et nos comportements. C’est ainsi que l’IA a pu se développer, mais seulement pour ceux qui possèdent ces données et les calculateurs nécessaires.

Or les seuls acteurs qui peuvent construire ces systèmes, dans le capitalisme de surveillance dans lequel nous vivons, ce sont les très grandes entreprises, les géants d’Internet. Cette concentration du pouvoir est inquiétante. Mais ce qui me préoccupe davantage, c’est leur conception de l’intelligence, qui se résume à deux choses : reproduire des comportements humains et faire en sorte que les machines surpassent les humains dans tout un tas de tâches, afin d’accroître les profits. C’est une vision productiviste, réductrice et triste de l’intelligence. Cette mécanique ne peut que contribuer à détruire encore plus la planète.

Vous avez tenté de construire votre propre voiture autonome afin d’explorer d’autres horizons en matière d’intelligence artificielle. Que retenez-vous de cette expérience ?

James Bridle

On travaille sur les voitures autonomes depuis longtemps, mais la seule façon de les concevoir, c’est de leur apprendre à conduire en imitant nos comportements. On ne peut pas les pré-programmer de A à Z. Elles doivent regarder les humains conduire et apprendre. C’est ce que j’ai fait. J’ai pris une voiture, placé des caméras, installé un logiciel sur mon téléphone pour enregistrer tout un tas de paramètres (l’angle de mon volant, ma vitesse, ma localisation) et je suis parti conduire. Mais j’ai appris à la voiture à se perdre, à partir à l’aventure avec moi, sans destination finale, contrairement à ce qu’on lui demande habituellement. J’ai mis en place des pièges pour la désorienter, comme un cercle de sel autour d’elle, une ligne qu’elle ne pouvait pas franchir.

C’était un geste artistique, un geste de résistance pour dire non aux technologies qu’on nous propose. C’était aussi une façon de comprendre comment la voiture voyait le monde autour de nous. Elle n’est pas vraiment intelligente mais elle a sa propre compréhension du monde, via ses capteurs et ses caméras, sa propre umwelt (« environnement » en allemand, ndlr). Un certain rapport au monde, comme nous en avons un, et comme en ont toutes les formes d’intelligence non humaines.

Vous mentionnez dans votre livre le cas d’Alice et Bob, deux IA de Facebook, qui ont réussi à développer leur propre langage pour communiquer entre elles. Facebook a aussitôt mis fin à l’expérience, mais vous soulignez qu’il aurait été intéressant de la laisser se poursuivre.

James Bridle

C’est l’exemple parfait de ce que je disais plus tôt : quelque chose de vraiment passionnant se passe, mais comme cela ne ressemble pas à ce que font les humains, que cela ne présente pas d’intérêt commercial immédiat, on arrête tout. C’est typique de l’aveuglement de ce type de recherches face à d’autres formes d’intelligences. Ce qui m’intéresse, avec l’IA, c’est de montrer qu’il y a des façons différentes de voir et de sentir le monde, qui ne sont pas exclusivement accessibles aux humains.

Faut-il cesser de contrôler nos technologies, les libérer en un sens ?

James Bridle

La façon dont nous interagissons avec le monde est incroyablement destructrice. La forme de savoir qui est la nôtre en Occident est basée sur la réduction du monde à une série d’objets sur lesquels on peut exercer notre contrôle. Nous apprenons à les connaître pour les contrôler, les dominer, plutôt que d’envisager des formes de vie différentes. Quand je pense à cette idée de libérer l’IA, je me dis qu’il s’agit de s’ouvrir à des choses que nous n’attendons pas, au hasard, à l’aléatoire. Ne pas reproduire éternellement le même type de logique capitaliste afin de révéler des choses plus utiles. Pourquoi ne pas laisser les machines tisser leur propre rapport avec le monde ?

Quand nous regardons le monde autour de nous, nous évaluons l’intelligence d’autres espèces sur la base de critères humains…

James Bridle

Dans les années 1960, le psychologue américain Gordon Gallup a mis au point le test du miroir pour tenter d’évaluer et de classer l’intelligence des espèces. Avoir conscience de soi serait la preuve que l’on dispose d’une certaine sophistication intellectuelle. Dans le livre, je détaille de nombreuses expériences menées sur des singes. Certains passent le test, mais d’autres, pourtant très proches des humains sur le plan génétique et comportemental, ne le réussissent pas. Les macaques, par exemple, se regardent rarement le miroir car ils ne portent pas attention aux visages dans leur environnement naturel. On essaie constamment de voir si les non-humains sont comme nous, mais l’intelligence est liée au rapport qu’on a au monde. Plutôt que de se dire « Êtes-vous comme nous ? », il faudrait se dire « Qu’est-ce que c’est d’être comme vous ? ».

Vous rappelez que l’intelligence est relationnelle et multiple. L’informatique devrait-elle davantage s’inspirer d’autres espèces plutôt que de tenter de reproduire l’intelligence humaine ?

James Bridle

Absolument. Il y a plein de manières dont l’informatique pourrait rompre avec tous ses biais. Je parlais de la vision très étriquée que nous avons de l’IA, mais on peut aussi parler de la vision étroite du calcul dans les ordinateurs. Tous les ordinateurs dont nous disposons sont du même type, celui pensé par Alan Turing dans les années 1940. Alors qu’il y a plein de façons de construire et penser les ordinateurs. Il y a des ordinateurs qui fonctionnent à l’eau plutôt qu’à l’électricité, d’autres qui ne sont pas binaires, qui ne fonctionnent pas sur la base de 0 et de 1, ou qui se basent sur des flux analogiques. Ces machines pensent et perçoivent le monde de manière différente. Par ailleurs, nos ordinateurs sont basés sur un processeur central, alors que dans le monde vivant, chez les abeilles par exemple, l’intelligence est distribuée. C’est une façon radicalement différence d’envisager la cognition et le traitement des informations. Nous devons changer les technologies que nous utilisons pour mieux accéder au monde.

Le problème avec l’informatique binaire est que tout se réduit à une question de choix et de prise de décision, écrivez-vous.

[…]

La suite ici Usbek & Rica

[Snoubi]

je pense comme lui !