Les électeurs indiens sont bombardés de millions de deepfakes. Les candidats politiques approuvent

[duJambon]

Les élections indiennes sont un aperçu de l’avenir de la démocratie fondé sur l’IA (hum…). Les politiciens utilisent des deepfakes audio et vidéo d’eux-mêmes pour atteindre les électeurs, qui n’ont peut-être aucune idée qu’ils parlent à un clone.

Par un après-midi étouffant d’avril à Ajmer, dans l’État indien du Rajasthan, l’homme politique local Shakti Singh Rathore s’est assis devant un écran vert pour tourner une courte vidéo. Il avait l’air nerveux. C’était la première fois qu’il était cloné.

Vêtu d’une chemise blanche impeccable et d’un foulard de cérémonie safran orné d’une fleur de lotus – le logo du BJP, le parti au pouvoir dans le pays – Rathore a joint ses paumes et a salué son auditoire en hindi. « Namashkar », commença-t-il. “A tous mes frères…”

Avant qu’il ait pu continuer, le réalisateur du tournage est entré dans le cadre. Divyendra Singh Jadoun, un homme de 31 ans au crâne chauve et à l’épaisse barbe noire, a déclaré à Rathore qu’il bougeait trop devant la caméra. Jadoun essayait de capturer suffisamment de données audio et vidéo pour créer une IA deepfake de Rathore qui convaincrait 300 000 électeurs potentiels autour d’Ajmer qu’ils avaient eu une conversation personnalisée avec lui, mais un mouvement excessif briserait l’algorithme. Jadoun a dit à son sujet de regarder directement dans la caméra et de ne bouger que ses lèvres. « Recommencez », dit-il.

En ce moment même, la plus grande démocratie du monde se rend aux urnes. Près d’un milliard d’Indiens ont le droit de voter dans le cadre des élections générales du pays, et les deepfakes pourraient jouer un rôle décisif, voire potentiellement source de division. Les partis politiques indiens ont exploité l’IA pour déformer la réalité à travers des contrefaçons audio bon marché , des images de propagande et des parodies d’IA . Mais alors que le discours mondial sur les deepfakes se concentre souvent sur la désinformation et d’autres méfaits sociétaux, de nombreux politiciens indiens utilisent la technologie dans un but différent : sensibiliser les électeurs.

Quel que soit leur spectre idéologique, ils s’appuient sur l’IA pour les aider à naviguer dans les 22 langues officielles du pays et les milliers de dialectes régionaux, et pour transmettre des messages personnalisés dans les communautés les plus éloignées. Alors que les États-Unis ont récemment interdit l’utilisation des voix générées par l’IA pour les appels non sollicités, en Inde, les deepfakes autorisés sont devenus une opportunité commerciale de 60 millions de dollars. Plus de 50 millions d’appels vocaux générés par l’IA ont été effectués au cours des deux mois précédant le début des élections en avril, et des millions d’autres seront effectués pendant le vote, a déclaré à WIRED l’un des plus grands opérateurs de messagerie professionnelle du pays.

Jadoun est la figure emblématique de cette industrie en plein essor. Sa société, Polymath Synthetic Media Solutions, est l’un des nombreux fournisseurs de services de deepfake de toute l’Inde qui ont émergé pour répondre aux besoins de la classe politique. Au cours de cette campagne électorale, Jadoun a jusqu’à présent mené cinq campagnes d’IA, pour lesquelles son entreprise a reçu un total de 55 000 dollars. (Il facture nettement moins que les grands consultants politiques : 125 000 roupies [1 500 dollars] pour créer un avatar numérique et 60 000 roupies [720 dollars] pour un clone audio.) Il a réalisé des deepfakes pour Prem Singh Tamang, le ministre en chef de l’État himalayen de Sikkim, et a ressuscité YS Rajasekhara Reddy, un homme politique emblématique décédé dans un accident d’hélicoptère en 2009, pour soutenir son fils YS Jagan Mohan Reddy, actuellement ministre en chef de l’État d’Andhra Pradesh. Jadoun a également créé des chansons de propagande générées par l’IA pour plusieurs hommes politiques, dont Tamang, un candidat local au parlement et le ministre en chef de l’État du Maharashtra, dans l’ouest du pays. “Il est notre fierté”, chantait une chanson en hindi sur un homme politique local d’Ajmer, avec des voix masculines et féminines sur une mélodie pleine d’entrain. “Il a toujours été impartial.”

Source et vidéo en anglais “Comment cloner un politicien”: https://www.wired.com/story/indian-elections-ai-deepfakes/

Les vrais racontent déjà n’importe quoi, alors les promesses de clones rendent les idiots joyeux.