Les gênantes hallucinations et fuites d’information de Q, le chatbot d’Amazon
-
La semaine dernière, Amazon a annoncé le lancement de son assistant Q, chatbot du même genre que ChatGPT dédié spécifiquement aux entreprises.
Mais, selon Plateformer, Q aurait de sérieux problèmes d’hallucinations et de fuites d’informations. Selon des documents internes à l’entreprise, obtenus par le média, l’assistant pourrait, entre autres, divulguer la localisation de datacenters d’AWS, des informations sur des programmes de réduction de l’entreprise ainsi que sur des fonctionnalités non encore commercialisées.
L’entreprise nie toute fuite de données confidentielles et minimise les retours négatifs de ses employés beta testeurs :^« Certains employés font part de leurs commentaires par le biais de canaux internes et de systèmes de tickets, ce qui est une pratique courante chez Amazon […] Aucun problème de sécurité n’a été identifié à la suite de ces commentaires. Nous apprécions tous les commentaires que nous avons déjà reçus et nous continuerons d’améliorer Q au fur et à mesure qu’il passera du statut de produit en avant-première à celui de produit disponible publiquement. »
Lors de la présentation de Q, Amazon insistait sur la mise en place de garde-fous qui seraient développés dans les prochains mois pour prévenir ce genre de fuites, justement.
Source : next.ink
-
C’est QQ ces fuites et autres problèmes…
Blague à part, faire “l’éducation” d’une “I.A.” (définir ses règles et limites) est aussi long et compliqué que faire celle d’un gosse dans la vraie vie, et le résultat n’est jamais garanti.
Que faire quand une i.A. se drogue aux données du darknet ou devient complotiste ?
Nulle loi d’airain gravée au marbre des remparts, car tout client dépend d’un serveur aux hasards. (ChatGPT)
-
ça donne l’IA dans “Next” !
-
et que faire s’il prend l’envie à l’IA de faire une blague ? je me suis toujours posé cette question, car à force de vouloir humaniser les machines ce cas de figure deviendra plausible…
Remarquez, ça peut être cool on aura enfin de vrais humoristes ^^
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
S'inscrire Se connecter