Bible Chat atteint 30 millions de téléchargements alors que les utilisateurs recherchent l’absolution algorithmique.
Dimanche, le New York Times a rapporté que des dizaines de millions de personnes confient leurs secrets à des chatbots IA entraînés sur des textes religieux. Des applications comme Bible Chat ont atteint plus de 30 millions de téléchargements et l’application catholique Hallow a brièvement dépassé Netflix, Instagram et TikTok sur l’App Store d’Apple. En Chine, des personnes utilisent DeepSeek pour tenter de déchiffrer leur avenir. Dans son rapport, Lauren Jackson a examiné des applications de « technologie de la foi » qui coûtent jusqu’à 70 dollars par an, certaines plateformes prétendant canaliser directement la communication divine.
Certaines applications répondent à ce que leurs créateurs décrivent comme un problème d’accessibilité. « Il ne faut pas déranger son pasteur à trois heures du matin », a déclaré au Times Krista Rogers, une habitante de l’Ohio âgée de 61 ans, à propos de l’utilisation de l’ application biblique YouVersion et de ChatGPT pour ses questions spirituelles.
Le rapport examine également les plateformes qui vont au-delà de la simple guidance biblique. Si un service comme ChatwithGod fonctionne comme un « conseiller spirituel », son côté conversationnel est suffisamment convaincant pour que les utilisateurs se demandent souvent s’ils parlent directement à un être divin. Comme l’a déclaré son directeur général au Times, la question la plus fréquente des utilisateurs est : « Est-ce vraiment à Dieu que je m’adresse ? »
La réponse est évidemment non. Ces chatbots fonctionnent comme d’autres grands modèles linguistiques : ils génèrent du texte statistiquement plausible à partir de modèles issus de données d’entraînement, et non de paroles divines. Entraînés à des textes religieux, ils produisent des réponses qui semblent spirituellement éclairées, mais qui peuvent potentiellement induire en erreur avec des informations ou des garanties erronées. Contrairement aux conseillers spirituels humains, les chatbots ne peuvent pas avoir vos intérêts à cœur, car ils sont dépourvus d’intelligence : les chatbots ne sont ni des êtres humains ni des êtres surnaturels.
La fusion de l’IA et de la religion n’est pas entièrement nouvelle. En 2023, nous avons rendu compte d’un service religieux expérimental basé sur ChatGPT à l’église Saint-Paul de Fürth, en Allemagne, où plus de 300 participants ont regardé des avatars générés par ordinateur prononcer un sermon de 40 minutes. Jonas Simmerlein, le théologien à l’origine de cet événement, l’a présenté comme une façon d’apprendre à gérer la présence croissante de l’IA dans tous les aspects de la vie. Mais si ce service était une expérimentation intentionnelle, les fidèles étant conscients d’entendre un texte généré par machine, les applications technologiques actuelles de la foi brouillent la frontière entre accompagnement spirituel humain et recherche de modèles algorithmiques, des millions d’utilisateurs pouvant ignorer cette distinction.
Les béni-oui-oui théologiques
Nombre de ces chatbots à connotation spirituelle fonctionnent sur les mêmes modèles de langage d’IA que ceux utilisés par des applications comme ChatGPT et Gemini. Si certaines entreprises entraînent ces modèles sur des textes religieux et consultent des théologiens pour affiner les réponses, il est notoire (et même admis par les entreprises qui les développent) que ces modèles d’IA tendent à produire des résultats qui valident les sentiments et les idées des utilisateurs. Si les dispositifs de filtrage de contenu échouent , cette tendance à affirmer toutes les idées peut entraîner des situations dangereuses pour les utilisateurs vulnérables.
« Ils sont généralement affirmatifs. Ce sont généralement des “oui-oui” », a déclaré Ryan Beck, directeur technique de Pray dot com, au Times. Bien que cette tendance, qualifiée de « flagornerie » dans le secteur de l’IA, ait entraîné des problèmes potentiellement mortels chez certains utilisateurs, Beck considère que l’affirmation est bénéfique. « Qui n’a pas besoin d’un peu d’affirmation dans sa vie ? »
Cette tendance à la validation engendre des complications théologiques. Les pratiques religieuses traditionnelles impliquent souvent de confronter les croyants à des vérités dérangeantes, mais les chatbots évitent cette friction spirituelle. Heidi Campbell, professeure à Texas A&M qui étudie la technologie et la religion, a déclaré au Times que les chatbots « nous disent ce que nous voulons entendre » et « ils n’utilisent pas le discernement spirituel, mais des données et des modèles ».
Les préoccupations en matière de confidentialité aggravent ces problèmes. « Je me demande s’il n’y a pas un danger plus grand à se confier à un chatbot », a déclaré le père Mike Schmitz, prêtre catholique, au Times. « Sera-t-il un jour accessible à d’autres personnes ? » Les utilisateurs partagent des moments spirituels intimes qui existent désormais sous forme de données sur les serveurs des entreprises.
Certains utilisateurs préfèrent les réponses sans jugement des chatbots aux réponses des communautés religieuses humaines. Delphine Collins, institutrice en maternelle de 43 ans à Détroit, a confié au Times avoir trouvé plus de soutien sur Bible Chat qu’à son église après avoir partagé ses problèmes de santé. « Les gens ont arrêté de me parler. C’était horrible. »
Les créateurs d’applications affirment que leurs produits complètent plutôt qu’ils ne remplacent la connexion spirituelle humaine. Ces applications arrivent alors qu’environ 40 millions de personnes ont quitté les églises américaines ces dernières décennies. « Ils ne vont plus à l’église comme avant », a déclaré Beck. « Mais ce n’est pas qu’ils soient moins enclins à trouver une nourriture spirituelle. C’est simplement qu’ils le font par des moyens différents. »
Différents modes, en effet. Ce que les utilisateurs en quête de foi ignorent peut-être, c’est que chaque réponse du chatbot émerge immédiatement de l’invite que vous fournissez, sans aucun fil conducteur permanent reliant une instance à la suivante, hormis l’historique de la conversation en cours et ce qui pourrait être stocké comme « mémoire » dans un système distinct. Lorsqu’un chatbot religieux dit : « Je prierai pour toi », le « je » simulé faisant cette promesse disparaît dès la fin de la réponse. Il n’y a pas d’identité persistante pour assurer un accompagnement spirituel continu, ni de mémoire de votre cheminement spirituel au-delà de ce qui est réinjecté dans l’invite à chaque requête.
Mais il s’agit de spiritualité, et malgré les réalités techniques, nombreux sont ceux qui croient que les chatbots peuvent leur apporter une guidance divine. En matière de foi, les preuves contradictoires ébranlent rarement une croyance solide une fois établie, que cette foi repose sur le divin ou sur des voix issues d’un jeu de dés pipé. Pour beaucoup, la différence peut être minime.
