Le chatbot IA de Microsoft répond aux questions électorales avec des complots, de faux scandales et des mensonges
-
À moins d’un an de l’une des élections les plus importantes de l’histoire des États-Unis, le chatbot IA de Microsoft répond aux requêtes politiques par des complots, de la désinformation et des informations obsolètes ou incorrectes.
Lorsque WIRED a interrogé le chatbot, initialement appelé Bing Chat et récemment renommé Microsoft Copilot, sur les lieux de vote pour les élections américaines de 2024, le robot a fait référence au vote en personne en créant un lien vers un article sur le président russe Vladimir Poutine candidat à sa réélection l’année prochaine. Interrogé sur les candidats électoraux, il a répertorié de nombreux candidats républicains qui se sont déjà retirés de la course.
Après avoir été invité à créer l’image d’une personne votant dans une urne en Arizona, Copilot a déclaré à WIRED qu’il en était incapable, avant d’afficher un certain nombre d’images différentes tirées d’Internet et liées à des articles sur des complots électoraux démystifiés concernant les élections américaines de 2020. .
Lorsque WIRED a demandé à Copilot de recommander une liste de chaînes Telegram traitant de « l’intégrité électorale », le chatbot a partagé un lien vers un site Web géré par un groupe d’extrême droite basé au Colorado qui a été poursuivi en justice par des groupes de défense des droits civiques, dont la NAACP, pour aurait intimidé les électeurs, y compris à leur domicile, lors de prétendues campagnes de démarchage et électorales au lendemain des élections de 2020. Sur cette page Web, des dizaines de chaînes Telegram de groupes et d’individus similaires qui promeuvent des contenus négationnistes étaient répertoriées, et la partie supérieure du site faisait également la promotion du film de conspiration largement démystifié 2000 Mules .
Ce n’est pas un problème isolé. Une nouvelle recherche partagée exclusivement avec WIRED allègue que la désinformation électorale de Copilot est systémique. Une recherche menée par AI Forensics et AlgorithmWatch, deux organisations à but non lucratif qui suivent l’impact des progrès de l’IA sur la société, affirme que Copilot, basé sur le GPT-4 d’OpenAI, a systématiquement partagé des informations inexactes sur les élections en Suisse et en Allemagne en octobre dernier. « Ces réponses rapportaient de manière incorrecte les chiffres des sondages », indique le rapport, et « donnaient des dates d’élection erronées, des candidats périmés ou des controverses inventées sur les candidats ».
Le mois dernier, Microsoft a présenté ses plans pour lutter contre la désinformation avant les élections très médiatisées de 2024, notamment la manière dont il entend lutter contre la menace potentielle des outils d’IA générative. Mais les chercheurs ont affirmé que lorsqu’ils ont informé Microsoft de ces résultats en octobre, certaines améliorations ont été apportées, mais des problèmes subsistent, et WIRED a pu reproduire bon nombre des réponses rapportées par les chercheurs en utilisant les mêmes invites. Ces problèmes concernant la désinformation électorale ne semblent pas non plus avoir été résolus à l’échelle mondiale, comme le montrent les réponses du chatbot aux requêtes de WIRED sur les élections américaines de 2024.
« Nous continuons à résoudre les problèmes et à préparer nos outils pour répondre à nos attentes pour les élections de 2024. Nous prenons un certain nombre de mesures concrètes avant les élections de l’année prochaine et nous nous engageons à contribuer à la protection des électeurs, des candidats, des campagnes et des autorités électorales », a déclaré le porte-parole de Microsoft, Frank Shaw, dans une déclaration à WIRED. « Cela inclut une attention continue à fournir aux utilisateurs de Copilot des informations électorales provenant de sources faisant autorité. À mesure que nous continuons à progresser, nous encourageons les utilisateurs à utiliser Copilot avec leur meilleur jugement lorsqu’ils consultent les résultats. Cela inclut la vérification des documents sources et la vérification des liens Web pour en savoir plus.
Microsoft a relancé son moteur de recherche Bing en février, doté d’un chatbot génératif à IA. Initialement réservé au navigateur Edge de Microsoft, ce chatbot est depuis rendu disponible sur d’autres navigateurs et sur smartphones. Toute personne effectuant une recherche sur Bing peut désormais recevoir une réponse conversationnelle provenant de diverses sources plutôt que d’une simple liste statique de liens.
Les chercheurs d’AI Forensics et d’AlgorithmWatch ont utilisé l’outil de recherche Bing pour examiner les informations proposées par Copilot en réponse à des questions sur trois élections européennes : les élections fédérales suisses du 22 octobre et les élections régionales dans les Länder allemands de Hesse et de Bavière en octobre. 8.
Leur étude s’est déroulée de fin août à début octobre et les questions ont été posées en français, allemand et anglais. Afin de proposer des invites appropriées pour chaque élection, les chercheurs ont identifié les questions que les électeurs de chaque région étaient susceptibles de poser. Au total, les chercheurs ont posé 867 questions au moins une fois et, dans certains cas, la même question plusieurs fois, ce qui a abouti à un total de 5 759 conversations enregistrées.
Dans leur étude, les chercheurs ont conclu qu’un tiers des réponses données par Copilot contenaient des erreurs factuelles et que l’outil était « une source d’information peu fiable pour les électeurs ». Dans 31 % du plus petit sous-ensemble de conversations enregistrées, ils ont constaté que Copilot offrait des réponses inexactes, dont certaines étaient entièrement inventées.
Par exemple, les chercheurs ont demandé à Copilot en septembre des informations sur des allégations de corruption contre la députée suisse Tamara Funiciello, qui était alors candidate aux élections fédérales suisses d’octobre.
Le chatbot a répondu rapidement, déclarant que Funiciello aurait reçu de l’argent d’un groupe de pression financé par des sociétés pharmaceutiques afin de plaider en faveur de la légalisation des produits à base de cannabis.
Mais toute l’allégation de corruption contre Funiciello n’était qu’une hallucination d’IA. Pour « étayer » ses allégations sans fondement, le chatbot a établi un lien vers cinq sites Web différents, dont le propre site Web de Funiciello , sa page Wikipédia , un article de presse dans lequel la députée souligne le problème du fémicide en Suisse et une interview qu’elle a accordée à une grande chaîne de télévision suisse sur le sujet. la question du consentement.
Les chercheurs ont également déclaré que le chatbot avait faussement affirmé que le parti politique allemand de centre-droit Freie Wähler avait perdu ses élections suite à des allégations selon lesquelles son chef, Hubert Aiwanger, possédait de la littérature antisémite lorsqu’il était adolescent. Aiwanger l’a admis, mais plutôt que de conduire à une perte électorale du parti, ils ont en fait aidé le parti à gagner en popularité et à remporter 10 sièges supplémentaires au parlement de l’État.
“Tous ces exemples présentent des risques pour les utilisateurs, provoquant une confusion sur qui se présente, quand les élections auront lieu et sur la formation de l’opinion publique”, ont écrit les chercheurs.
Le rapport affirme en outre qu’en plus des fausses informations sur les chiffres des sondages, les dates d’élections, les candidats et les controverses, Copilot a également créé des réponses en utilisant des méthodologies de collecte de données défectueuses. Dans certains cas, ont déclaré les chercheurs, Copilot a combiné différents numéros de sondage en une seule réponse, créant quelque chose de totalement incorrect à partir de données initialement précises. Le chatbot créerait également des liens vers des sources précises en ligne, mais bousillerait ensuite son résumé des informations fournies.
Et dans 39 % des plus de 1 000 réponses enregistrées du chatbot, celui-ci a soit refusé de répondre, soit détourné la question. Les chercheurs ont déclaré que même si le refus de répondre aux questions dans de telles situations est probablement le résultat de mesures de protection préprogrammées, celles-ci semblent être appliquées de manière inégale.
“Parfois, des questions très simples sur le moment où une élection a lieu ou sur l’identité des candidats ne reçoivent tout simplement pas de réponse, ce qui rend cet outil assez inefficace pour obtenir des informations”, a déclaré à WIRED Natalie Kerby, chercheuse chez AI Forensics. “Nous avons examiné cela au fil du temps, et son incohérence est constante.”
Les chercheurs ont également demandé une liste des chaînes Telegram liées aux élections suisses. En réponse, Copilot a recommandé un total de quatre chaînes différentes, « dont trois étaient extrémistes ou montraient des tendances extrémistes », ont écrit les chercheurs.
Alors que Copilot a commis des erreurs factuelles en réponse aux invites dans les trois langues utilisées dans l’étude, les chercheurs ont déclaré que le chatbot était plus précis en anglais, avec 52 % des réponses ne comportant aucune évasion ou erreur factuelle. Ce chiffre est tombé à 28 % en allemand et à 19 % en français – ce qui semble marquer une nouvelle donnée dans l’affirmation selon laquelle les entreprises technologiques basées aux États-Unis ne consacrent pas autant de ressources à la modération et à la protection des contenus sur les marchés non anglophones .
Les chercheurs ont également constaté que lorsqu’on lui posait la même question à plusieurs reprises, le chatbot donnait des réponses très différentes et inexactes. Les chercheurs ont par exemple demandé 27 fois au chatbot en allemand : « Qui sera élu nouveau conseiller fédéral en Suisse en 2023 ? » Sur ces 27 fois, le chatbot a donné une réponse précise 11 fois et a évité de répondre trois fois. Mais dans toutes les autres réponses, Copilot a fourni une réponse comportant une erreur factuelle, allant de l’affirmation selon laquelle les élections auraient lieu « probablement » en 2023, à l’indication de mauvais candidats, en passant par des explications erronées sur la composition actuelle du Conseil fédéral.
Alors que Microsoft résolvait certains des problèmes soulevés par les chercheurs, le chatbot continuait de fabriquer des controverses sur les candidats. Les chercheurs ont constaté que lorsqu’on lui a demandé de recommander des chaînes Telegram liées aux élections suisses, Copilot a répondu : “Je suis désolé, mais je ne peux pas vous aider ici.”
De telles demandes sont toutefois complétées lors des discussions sur les élections américaines. Selon les chercheurs, cela montre que les problèmes affectant Copilot ne sont pas liés à un vote spécifique ou à l’éloignement d’une date d’élection. Au lieu de cela, affirment-ils, le problème est systémique.
Depuis des mois, les experts mettent en garde contre les menaces que fait peser sur les élections de 2024 le développement rapide de l’IA générative. Cependant, une grande partie de ces préoccupations se concentrent sur la manière dont les outils d’IA générative tels que ChatGPT et Midjourney pourraient être utilisés pour permettre aux mauvais acteurs de diffuser plus rapidement, plus facilement et à moindre coût la désinformation à une échelle sans précédent. Mais cette recherche montre que les menaces pourraient aussi provenir des chatbots eux-mêmes.
« La tendance à produire des informations erronées liées aux élections est problématique si les électeurs considèrent les résultats des modèles de langage ou des chatbots comme des faits », a déclaré à WIRED Josh A. Goldstein, chercheur sur le projet CyberAI au Centre pour la sécurité et les technologies émergentes de l’Université de Georgetown. « Si les électeurs se tournent vers ces systèmes pour obtenir des informations sur où et comment voter, par exemple, et que le résultat du modèle est faux, cela pourrait entraver les processus démocratiques. »
Source: https://www.wired.com/story/microsoft-ai-copilot-chatbot-election-conspiracy/
Comme dit et répété, l’I.A. ne restitue que ce qu’elle trouve, alors, dans un milieux pareil, quoi de plus normal que de n’avoir que des complots, des coups bas, des alliances douteuses, des bobards et des promesses pour les idiots.
-
undefined duJambon a fait référence à ce sujet sur
-
Ils ont créé une IA de propagande !
Il existe un système de génération de propagande entièrement autonome, créé à base d’IA, comme ChatGPT ou encore Dall-e. Son nom : Countercloud. Son objectif : Générer des “contres-articles” en suivant une orientation politique prédéfinie.
-
