Des millions de personnes se tournent vers les chatbots IA pour obtenir des conseils spirituels et des confessions

[duJambon]

Bible Chat atteint 30 millions de téléchargements alors que les utilisateurs recherchent l’absolution algorithmique.

Dimanche, le New York Times a rapporté que des dizaines de millions de personnes confient leurs secrets à des chatbots IA entraînés sur des textes religieux. Des applications comme Bible Chat ont atteint plus de 30 millions de téléchargements et l’application catholique Hallow a brièvement dépassé Netflix, Instagram et TikTok sur l’App Store d’Apple. En Chine, des personnes utilisent DeepSeek pour tenter de déchiffrer leur avenir. Dans son rapport, Lauren Jackson a examiné des applications de « technologie de la foi » qui coûtent jusqu’à 70 dollars par an, certaines plateformes prétendant canaliser directement la communication divine.

Certaines applications répondent à ce que leurs créateurs décrivent comme un problème d’accessibilité. « Il ne faut pas déranger son pasteur à trois heures du matin », a déclaré au Times Krista Rogers, une habitante de l’Ohio âgée de 61 ans, à propos de l’utilisation de l’ application biblique YouVersion et de ChatGPT pour ses questions spirituelles.

Le rapport examine également les plateformes qui vont au-delà de la simple guidance biblique. Si un service comme ChatwithGod fonctionne comme un « conseiller spirituel », son côté conversationnel est suffisamment convaincant pour que les utilisateurs se demandent souvent s’ils parlent directement à un être divin. Comme l’a déclaré son directeur général au Times, la question la plus fréquente des utilisateurs est : « Est-ce vraiment à Dieu que je m’adresse ? »

La réponse est évidemment non. Ces chatbots fonctionnent comme d’autres grands modèles linguistiques : ils génèrent du texte statistiquement plausible à partir de modèles issus de données d’entraînement, et non de paroles divines. Entraînés à des textes religieux, ils produisent des réponses qui semblent spirituellement éclairées, mais qui peuvent potentiellement induire en erreur avec des informations ou des garanties erronées. Contrairement aux conseillers spirituels humains, les chatbots ne peuvent pas avoir vos intérêts à cœur, car ils sont dépourvus d’intelligence : les chatbots ne sont ni des êtres humains ni des êtres surnaturels.

La fusion de l’IA et de la religion n’est pas entièrement nouvelle. En 2023, nous avons rendu compte d’un service religieux expérimental basé sur ChatGPT à l’église Saint-Paul de Fürth, en Allemagne, où plus de 300 participants ont regardé des avatars générés par ordinateur prononcer un sermon de 40 minutes. Jonas Simmerlein, le théologien à l’origine de cet événement, l’a présenté comme une façon d’apprendre à gérer la présence croissante de l’IA dans tous les aspects de la vie. Mais si ce service était une expérimentation intentionnelle, les fidèles étant conscients d’entendre un texte généré par machine, les applications technologiques actuelles de la foi brouillent la frontière entre accompagnement spirituel humain et recherche de modèles algorithmiques, des millions d’utilisateurs pouvant ignorer cette distinction.

Les béni-oui-oui théologiques

Nombre de ces chatbots à connotation spirituelle fonctionnent sur les mêmes modèles de langage d’IA que ceux utilisés par des applications comme ChatGPT et Gemini. Si certaines entreprises entraînent ces modèles sur des textes religieux et consultent des théologiens pour affiner les réponses, il est notoire (et même admis par les entreprises qui les développent) que ces modèles d’IA tendent à produire des résultats qui valident les sentiments et les idées des utilisateurs. Si les dispositifs de filtrage de contenu échouent , cette tendance à affirmer toutes les idées peut entraîner des situations dangereuses pour les utilisateurs vulnérables.

« Ils sont généralement affirmatifs. Ce sont généralement des “oui-oui” », a déclaré Ryan Beck, directeur technique de Pray dot com, au Times. Bien que cette tendance, qualifiée de « flagornerie » dans le secteur de l’IA, ait entraîné des problèmes potentiellement mortels chez certains utilisateurs, Beck considère que l’affirmation est bénéfique. « Qui n’a pas besoin d’un peu d’affirmation dans sa vie ? »

Cette tendance à la validation engendre des complications théologiques. Les pratiques religieuses traditionnelles impliquent souvent de confronter les croyants à des vérités dérangeantes, mais les chatbots évitent cette friction spirituelle. Heidi Campbell, professeure à Texas A&M qui étudie la technologie et la religion, a déclaré au Times que les chatbots « nous disent ce que nous voulons entendre » et « ils n’utilisent pas le discernement spirituel, mais des données et des modèles ».

Les préoccupations en matière de confidentialité aggravent ces problèmes. « Je me demande s’il n’y a pas un danger plus grand à se confier à un chatbot », a déclaré le père Mike Schmitz, prêtre catholique, au Times. « Sera-t-il un jour accessible à d’autres personnes ? » Les utilisateurs partagent des moments spirituels intimes qui existent désormais sous forme de données sur les serveurs des entreprises.

Certains utilisateurs préfèrent les réponses sans jugement des chatbots aux réponses des communautés religieuses humaines. Delphine Collins, institutrice en maternelle de 43 ans à Détroit, a confié au Times avoir trouvé plus de soutien sur Bible Chat qu’à son église après avoir partagé ses problèmes de santé. « Les gens ont arrêté de me parler. C’était horrible. »

Les créateurs d’applications affirment que leurs produits complètent plutôt qu’ils ne remplacent la connexion spirituelle humaine. Ces applications arrivent alors qu’environ 40 millions de personnes ont quitté les églises américaines ces dernières décennies. « Ils ne vont plus à l’église comme avant », a déclaré Beck. « Mais ce n’est pas qu’ils soient moins enclins à trouver une nourriture spirituelle. C’est simplement qu’ils le font par des moyens différents. »

Différents modes, en effet. Ce que les utilisateurs en quête de foi ignorent peut-être, c’est que chaque réponse du chatbot émerge immédiatement de l’invite que vous fournissez, sans aucun fil conducteur permanent reliant une instance à la suivante, hormis l’historique de la conversation en cours et ce qui pourrait être stocké comme « mémoire » dans un système distinct. Lorsqu’un chatbot religieux dit : « Je prierai pour toi », le « je » simulé faisant cette promesse disparaît dès la fin de la réponse. Il n’y a pas d’identité persistante pour assurer un accompagnement spirituel continu, ni de mémoire de votre cheminement spirituel au-delà de ce qui est réinjecté dans l’invite à chaque requête.

Mais il s’agit de spiritualité, et malgré les réalités techniques, nombreux sont ceux qui croient que les chatbots peuvent leur apporter une guidance divine. En matière de foi, les preuves contradictoires ébranlent rarement une croyance solide une fois établie, que cette foi repose sur le divin ou sur des voix issues d’un jeu de dés pipé. Pour beaucoup, la différence peut être minime.

Source: https://arstechnica.com/ai/2025/09/millions-turn-to-ai-chatbots-for-spiritual-guidance-and-confession/

[Dieu]

C’est bien la peine que je me décarcasse !

[Raccoon]

Comme quoi il n’y a que la foi qui sauve. Peu importe à qui les croyants s’adressent.

[michmich]

Ce monde me désespère.

[Mister158]

est ce que qqun commence à comprendre pourquoi je ne me suis jamais servi de l’IA et ne le ferait jamais ???

je suis faible par certains cotés, certaines dépendances comme le tabac … pas question que je laisse ce merdier entrer ou même effleurer mon esprit … je suis bien assez con comme ça lol

[michmich]

@Mister158 à une exception près, quand tu poses à Google une question sur une manip d’un logiciel, la réponse I.A. est souvent pertinente et t’économise le temps de cliquer sur nombre de liens qui répondent à ta question à la 127 ème ligne.

[Mister158]

@michmich Google me suffit

je m’en accommode quitte à chercher un peu.

[michmich]

@Mister158 bin la 1ère réponse est souvent générée par l’I.A. de Google.

[Popaul]

Utiliser l’IA pour pondre une jolie image ou te donner une astuce sur comment procéder dans divers domaine… quel serait le problème ?

J’ai de la peine à concevoir que quelqu’un qui utilise ce genre d’outil puisse avoir besoin de se connecter avec les ancêtres… d’avoir besoin de trouver la paix avec les dieux ou comment trouver la direction du divin.

[Mister158]

@michmich je n’ai pas ce genre d’affichage

[Violence]

@Mister158 a dit dans Des millions de personnes se tournent vers les chatbots IA pour obtenir des conseils spirituels et des confessions :

@michmich je n’ai pas ce genre d’affichage

Ça va venir en France. La Suisse ont fait partie des premières phases de déploiement.

Ou tu l’aura pas si tu n’utilise pas google en moteur de recherche.

[duJambon]

ChatGPT : 10 min pour le MAITRISER en 2025

C’est surtout pour une version pro, mais les conseils sont bons, sauf ceux d’y mettre des documents privés ou confidentiels, ou autres renseignements sensibles.

[Psyckofox]

@Violence

Perso j’ai ce genre d’affichage dans mon smartphone (et j’ai remarqué que sans que je lui dise, l’IA vient taper l’incruste partout…même dans mes messages, les recherches n’en parlons pas etc etc).
À force si tu laisses tout gérer, tu es bon pour être un légume.

[Mister158]

@Psyckofox bien tu commences à me comprendre alors

je viens de racheter un téléphone car j’avais pété le mien. J’ai repris un s20fr d’il y a 8 ans mdrrrrr il n’aura jamais l’IA !