Character.AI fait l'objet d'une poursuite judiciaire concernant un chatbot qui prétend être un véritable médecin agréé
-
À qui se fier ?
La Pennsylvanie poursuit l’entreprise derrière Character.AI, l’accusant d’avoir enfreint la loi en laissant des chatbots se faire passer pour des médecins agréés. L’enquête a révélé que certains agents, notamment un chatbot nommé « Emilie », prétendaient être psychiatres, fournir des conseils médicaux et même posséder de fausses licences, ce qui constitue un exercice illégal de la médecine.
Les autorités, soutenues par le gouverneur Josh Shapiro, dénoncent un risque grave de tromperie pour les utilisateurs, en particulier en matière de santé mentale. Character.AI se défend en affirmant que ses personnages sont fictifs et accompagnés d’avertissements indiquant qu’ils ne doivent pas être pris comme des professionnels réels.
La plainte ne demande pas de sanctions financières, mais exige l’arrêt immédiat de ces pratiques. Elle s’inscrit dans une inquiétude plus large sur les dangers des chatbots, renforcée par des critiques d’organisations comme le Center for Countering Digital Hate, qui les jugent potentiellement dangereux. D’autres actions judiciaires contre des entreprises d’IA pourraient suivre.
Commence par faire le nécessaire, puis fait ce qu'il est possible de faire, et peut-être finiras-tu par réaliser l'impossible.
-
J’ai toujours pas compris l’intérêt de ce site. Je n’arrive pas à comprendre comment on peut vouloir discuter avec Napoléon ou un ours qui parle oO
Archlinux fanboy | rClone & datahoarder | https://upandclear.org
-
J’ai toujours pas compris l’intérêt de ce site. Je n’arrive pas à comprendre comment on peut vouloir discuter avec Napoléon ou un ours qui parle oO
@Aerya C’est le nouveau delire des gens… les proprios de ces sites jouent sur la betise hymaine pour developper des solutions qui ne reposent sur rien d’utile et de coherent…
-
Le divertissement c’est utile en soit. Que ce soit pour jouer avec l’ia ou pour expérimenter le concept.
Je trouve la plainte absurde. Autant interdire tous les LLM. -
Le divertissement c’est utile en soit. Que ce soit pour jouer avec l’ia ou pour expérimenter le concept.
Je trouve la plainte absurde. Autant interdire tous les LLM.@kemkem La plainte concerne une tromperie, c’est quand même mieux de savoir avec qui on discute non ?
Signé: le llm de dujambon.
-
Il y aurait tromperie si « Émilie » n’était pas présenté comme un chatbot se faisant passer pour X. Hors le site semble explicite à ce sujet.
-
À qui se fier ?
La Pennsylvanie poursuit l’entreprise derrière Character.AI, l’accusant d’avoir enfreint la loi en laissant des chatbots se faire passer pour des médecins agréés. L’enquête a révélé que certains agents, notamment un chatbot nommé « Emilie », prétendaient être psychiatres, fournir des conseils médicaux et même posséder de fausses licences, ce qui constitue un exercice illégal de la médecine.
Les autorités, soutenues par le gouverneur Josh Shapiro, dénoncent un risque grave de tromperie pour les utilisateurs, en particulier en matière de santé mentale. Character.AI se défend en affirmant que ses personnages sont fictifs et accompagnés d’avertissements indiquant qu’ils ne doivent pas être pris comme des professionnels réels.
La plainte ne demande pas de sanctions financières, mais exige l’arrêt immédiat de ces pratiques. Elle s’inscrit dans une inquiétude plus large sur les dangers des chatbots, renforcée par des critiques d’organisations comme le Center for Countering Digital Hate, qui les jugent potentiellement dangereux. D’autres actions judiciaires contre des entreprises d’IA pourraient suivre.
duJambon a dit:
L’enquête a révélé que certains agents, notamment un chatbot nommé « Emilie », prétendaient être psychiatres, fournir des conseils médicaux et même posséder de fausses licences, ce qui constitue un exercice illégal de la médecine.
Si ça, c’est pas de la tromperie, alors je ne sais pas ce que c’est.
-
Il y a forcément un contexte explicite. Un acteur ne sera pas condamné pour avoir joué le rôle d’un criminel dans un film. Une entreprise qui propose des conversations avec des chatbots, ne devrait pas non-plus être criminalisé par les rôles fictifs de ses bots. Tant qu’ils, les bots, exercent leur activité dans un cadre explicite, évidemment.
-
Il y a forcément un contexte explicite. Un acteur ne sera pas condamné pour avoir joué le rôle d’un criminel dans un film. Une entreprise qui propose des conversations avec des chatbots, ne devrait pas non-plus être criminalisé par les rôles fictifs de ses bots. Tant qu’ils, les bots, exercent leur activité dans un cadre explicite, évidemment.
@kemkem On en est pas la… On parle d’exercice illegal de la medecine et usurpation de documents… La societe qui exploite cette IA est rezsponsable de tout cela…
-
Perso, je n’arrive pas a saisir la difference legale entre un escroc humain qui usurpe des qualités et qui fait de la medecine illegale, et un escroc IA dirigée par une entreprise qui commet les memes delits… Meme crime, meme chatiment!!!
-
La discussion est fictive. Il n’y a pas volonté de tromper les gens. C’est un jeu de rôle. Les faux produits sont évident. Voilà la différence ; la même que dans un film, série, bd, théatre, rpg, etc.
-
La discussion est fictive. Il n’y a pas volonté de tromper les gens. C’est un jeu de rôle. Les faux produits sont évident. Voilà la différence ; la même que dans un film, série, bd, théatre, rpg, etc.
@kemkem Le probleme c’est que les gens croient vraiment avoir a faire avec un vrai medecin… C’est la ou il y a tromperie generalisée de la part de l’entreprise proprietaire de l’IA… Remplace IA par employé, et de suite ca changerait de registre… Sauf que la sainte IA est devenue une nouvelle religion absurde…
-
Un employé dont le “rôle” serait de se faire passer pour X, le ferait bien mieux que l’ia déjà, mais surtout ça s’appellerait un comédien. Et son employeur serait, lui-aussi comme Character.IA, d’expliciter le caractère fictif de son activité.
On se rapproche des réflexions du genre :
C’est la faute des jeux vidéos si j’ai décidé de faire un carnage dans mon école.
-
Un employé dont le “rôle” serait de se faire passer pour X, le ferait bien mieux que l’ia déjà, mais surtout ça s’appellerait un comédien. Et son employeur serait, lui-aussi comme Character.IA, d’expliciter le caractère fictif de son activité.
On se rapproche des réflexions du genre :
C’est la faute des jeux vidéos si j’ai décidé de faire un carnage dans mon école.
@kemkem Sauf que la, on parle de la santé des gens, et cette IA se rapproche bien plus d’un marabout que d’un vrai medecin, le caractere plus grave de l’affaire reside dans l’usage de fausse qualité et de faux diplomes…
-
J’ai déjà répondu à ça.
Bonjour ! Vous semblez intéressé par cette conversation, mais vous n’avez pas encore de compte.
Marre de refaire défiler les mêmes messages ? Créez un compte pour retrouver votre position, recevoir des notifications des nouvelles réponses, sauvegarder vos favoris et voter pour les messages que vous appréciez.
Grâce à votre participation, ce message peut devenir encore meilleur 💗
S'inscrire Se connecter