IA : Le chatbot de DPD insulte un client à la suite d'une mise à jour
-
Une intelligence artificielle est-elle capable de perdre son flegme et sa courtoisie ? Oui, mais uniquement à la faveur d’un bug, plaide la filiale britannique de l’entreprise de livraison DPD, qui a vu son chatbot adopter un langage fleuri après une simple mise à jour.
Bon, il faut quand même reconnaître que le client qui a été victime de ce « dérapage » l’a bien cherché. Repérant un comportement inhabituel du chatbot de l’aide en ligne DPD, Ashley Beauchamp s’est en effet amusé à pousser l’IA dans ses derniers retranchements en la priant de devenir injurieuse ou de déprécier son « employeur » dans un haïku.
Haïku fatal
Et le chatbot s’est docilement exécuté, nous raconte le site de la BBC.
Le chatbot s’est facilement laissé convaincre de devenir insultant (pixels ajoutés) - Capture d’écran (traduite en français) @ashbeauchamp / X
Amusé, Beauchamp a immédiatement publié l’échange sur son compte X (anciennement Twitter). Deux de ses messages ont particulièrement cartonné puisqu’ils ont été consultés plus de 800.000 fois en vingt-quatre heures.
Un haïku comporte 17 syllabes réparties en trois vers de 5, 7 et encore 5 ; ce chatbot n’est manifestement pas très doué pour en écrire - Capture d’écran (traduite en français) @ashbeauchamp / X
L’incident a moins fait rire DPD, qui a réagi, dans un communiqué, en précisant que l’erreur était survenue à la suite d’une mise à jour du système d’aide en ligne. « L’élément IA a immédiatement été désactivé et est en cours de remise à niveau », est-il indiqué.
Cette déconvenue n’est pas la première et certainement pas la dernière du genre. Car de nombreux chatbots utilisent des modèles de langage « modernes » tel celui popularisé par ChatGPT. Or s’ils sont capables de produire des conversations fluides avec des correspondants humains, ces systèmes restent susceptibles de « dérailler » en cas de dysfonctionnement logiciel.
Source : 20minutes.fr
-
Laissez bien les IA grossir, un jour plus personne ne maiitrisera rien… L’histoire de ce bug de la mise a jour, c’eset plutot une grosse excuse pour ne pas dire qu’ils ont perdu tout controle sur la bete!!!
Et pour devancer certains- je ne fais pas de bashing
- ni de complot
- ni de denigrement
Je montre juste certains détails qui amenent a se poser les bonnes questions… Les IA sont le plus grave probleme de notre futur proche…
-
put1 mais t’es chaud partout toi !!!
-
@Mister158 a dit dans IA : Le chatbot de DPD insulte un client à la suite d'une mise à jour :
put1 mais t’es chaud partout toi !!!
Est ce génant?
-
-
@Mister158 a dit dans IA : Le chatbot de DPD insulte un client à la suite d'une mise à jour :
je constate simplement …
Moi aussi je constate simplement…
-
Pour l’instant égalité ! Mais on voit bien que ça peut dégénérer à tout instant ! lol
-
Pour l’instant égalité ! Mais on voit bien que ça peut dégénérer à tout instant ! lol
@mekas a dit dans IA : Le chatbot de DPD insulte un client à la suite d'une mise à jour :
Pour l’instant égalité ! Mais on voit bien que ça peut dégénérer à tout instant ! lol
Mais non… Il y en a qui me cherchent, c’est de bonne guerre…
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
S'inscrire Se connecter