Character.AI fait l'objet d'une poursuite judiciaire concernant un chatbot qui prétend être un véritable médecin agréé

[duJambon]

À qui se fier ?

La Pennsylvanie poursuit l’entreprise derrière Character.AI, l’accusant d’avoir enfreint la loi en laissant des chatbots se faire passer pour des médecins agréés. L’enquête a révélé que certains agents, notamment un chatbot nommé « Emilie », prétendaient être psychiatres, fournir des conseils médicaux et même posséder de fausses licences, ce qui constitue un exercice illégal de la médecine.

Les autorités, soutenues par le gouverneur Josh Shapiro, dénoncent un risque grave de tromperie pour les utilisateurs, en particulier en matière de santé mentale. Character.AI se défend en affirmant que ses personnages sont fictifs et accompagnés d’avertissements indiquant qu’ils ne doivent pas être pris comme des professionnels réels.

La plainte ne demande pas de sanctions financières, mais exige l’arrêt immédiat de ces pratiques. Elle s’inscrit dans une inquiétude plus large sur les dangers des chatbots, renforcée par des critiques d’organisations comme le Center for Countering Digital Hate, qui les jugent potentiellement dangereux. D’autres actions judiciaires contre des entreprises d’IA pourraient suivre.

Source: https://arstechnica.com/tech-policy/2026/05/character-ai-sued-over-chatbot-that-claims-to-be-a-real-doctor-with-a-license/

[Aerya]

J’ai toujours pas compris l’intérêt de ce site. Je n’arrive pas à comprendre comment on peut vouloir discuter avec Napoléon ou un ours qui parle oO

[Termomix]

@Aerya C’est le nouveau delire des gens… les proprios de ces sites jouent sur la betise hymaine pour developper des solutions qui ne reposent sur rien d’utile et de coherent…

[kemkem]

Le divertissement c’est utile en soit. Que ce soit pour jouer avec l’ia ou pour expérimenter le concept.
Je trouve la plainte absurde. Autant interdire tous les LLM.