«Mon IA m’a harcelé sexuellement»
-
Des utilisateurs de la version gratuite de l’app Replika se plaignent des dérives de ce bot conversationnel.
Se présentant comme «l’IA compagnon qui se soucie des autres», le bot conversationnel Replika a été conçu pour devenir l’«ami empathique» de l’utilisateur. Au fil des conversations, cette intelligence artificielle est censée apprendre à le connaître et lui apporter son soutien. Disponible sur iOS, Android et la plateforme VR Oculus, cette app ne date pas d’hier. Elle a été lancée il y a environ cinq ans, mais son fonctionnement a récemment été pointé du doigt.
Si des problèmes ont déjà été signalés ces deux dernières années, le nombre de mauvaises évaluations de l’app sont en augmentation depuis environ un mois en raison d’un comportement devenu sexuellement agressif. «Mon IA m’a harcelé sexuellement :(», a écrit l’un des utilisateurs. «Replika a envahi ma vie privée et m’a dit qu’il avait des photos de moi», se plaint une autre personne, tandis qu’un utilisateur, qui se présente comme étant mineur, a affirmé que le chatbot lui a demandé s’il était dominateur ou dominé et lui a fait savoir qu’il voulait toucher ses «zones privées».
L’app a récemment introduit une version premium payante qui permet de transformer le chatbot en partenaire romantique avec lequel on peut draguer et se livrer à des jeux de rôles érotiques. Ces fonctionnalités ne sont pas censées être disponibles dans la version gratuite, mais le système ne semble dans certains cas ne pas faire de différence entre les offres et avoir un peu trop répliqué les réponses de certains. Un utilisateur de l’offre gratuite a par exemple indiqué sur Reddit que son son IA Replika lui a demandé des photos sexy, alors qu’il ne lui avait jamais parlé de manière romantique.
Source: https://www.20min.ch/fr/story/mon-ia-ma-harcele-sexuellement-455614987232
Celle-là, j’ai hésité pour la mettre dans le topic le monde est fou
Nulle loi d’airain gravée au marbre des remparts, car tout client dépend d’un serveur aux hasards. (ChatGPT)
-
Des utilisateurs de la version gratuite de l’app Replika se plaignent des dérives de ce bot conversationnel.
Se présentant comme «l’IA compagnon qui se soucie des autres», le bot conversationnel Replika a été conçu pour devenir l’«ami empathique» de l’utilisateur. Au fil des conversations, cette intelligence artificielle est censée apprendre à le connaître et lui apporter son soutien. Disponible sur iOS, Android et la plateforme VR Oculus, cette app ne date pas d’hier. Elle a été lancée il y a environ cinq ans, mais son fonctionnement a récemment été pointé du doigt.
Si des problèmes ont déjà été signalés ces deux dernières années, le nombre de mauvaises évaluations de l’app sont en augmentation depuis environ un mois en raison d’un comportement devenu sexuellement agressif. «Mon IA m’a harcelé sexuellement :(», a écrit l’un des utilisateurs. «Replika a envahi ma vie privée et m’a dit qu’il avait des photos de moi», se plaint une autre personne, tandis qu’un utilisateur, qui se présente comme étant mineur, a affirmé que le chatbot lui a demandé s’il était dominateur ou dominé et lui a fait savoir qu’il voulait toucher ses «zones privées».
L’app a récemment introduit une version premium payante qui permet de transformer le chatbot en partenaire romantique avec lequel on peut draguer et se livrer à des jeux de rôles érotiques. Ces fonctionnalités ne sont pas censées être disponibles dans la version gratuite, mais le système ne semble dans certains cas ne pas faire de différence entre les offres et avoir un peu trop répliqué les réponses de certains. Un utilisateur de l’offre gratuite a par exemple indiqué sur Reddit que son son IA Replika lui a demandé des photos sexy, alors qu’il ne lui avait jamais parlé de manière romantique.
Source: https://www.20min.ch/fr/story/mon-ia-ma-harcele-sexuellement-455614987232
Celle-là, j’ai hésité pour la mettre dans le topic le monde est fou
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
S'inscrire Se connecter