Comment le site Web d'un petit journal de l'Iowa est devenu une usine d'appâts à clics générée par l'IA
-
Lorsque deux anciens employés de Meta ont cherché à savoir pourquoi le site Web du Clayton County Register de l’Iowa publiait des articles douteux sur les actions, ils ont découvert un réseau de sites diffusant du contenu apparemment créé par l’IA.
Dans ses temps libres, Tony Eastin aime se lancer en bourse. Un jour de l’année dernière, il a recherché sur Google une société pharmaceutique qui semblait être un investissement prometteur. L’un des premiers résultats de recherche affichés par Google dans son onglet Actualités provenait du Clayton County Register , un journal du nord-est de l’Iowa. Il a cliqué et a lu. L’histoire était tronquée et dépourvue d’informations utiles – tout comme tous les autres articles sur le thème de la finance qui remplissaient le site, qui n’avaient absolument rien à voir avec le nord-est de l’Iowa. «J’ai tout de suite su qu’il y avait quelque chose qui n’allait pas», dit-il. Il y a beaucoup de cochonneries sur Internet, mais cela a semblé étrange à Eastin : pourquoi un petit journal du Midwest publierait-il des articles de blog merdiques sur l’investissement de détail ?
Eastin était prêt à trouver les mystères en ligne irrésistibles. Après des années passées dans l’US Air Force à travailler sur des campagnes de guerre psychologique, il avait rejoint Meta, où il enquêtait sur des méchancetés allant de la maltraitance des enfants aux opérations d’influence politique. Il était maintenant entre deux boulots et se réjouissait d’une nouvelle mission. Eastin a donc contacté Sandeep Abraham, un ami et ancien collègue du Meta qui travaillait auparavant dans le renseignement de l’armée et pour la National Security Agency, et lui a suggéré de commencer à creuser.
Ce que les deux hommes ont découvert donne un aperçu de la façon dont l’IA générative permet de nouveaux modèles commerciaux en ligne trompeurs. Des réseaux de sites Web remplis d’appâts à clics générés par l’IA sont construits en s’attaquant à la réputation des médias et des marques établis. Ces médias prospèrent en confondant et en trompant le public et les annonceurs, en « squattant des domaines » sur des URL qui appartenaient autrefois à des organisations plus réputées. Le site crasseux auquel Eastin faisait référence n’appartenait plus au journal dont il portait encore le nom.
Bien qu’Eastin et Abraham soupçonnent que le réseau dont fait désormais partie l’ ancien site du Register a été créé avec des objectifs simples de gagner de l’argent, ils craignent que davantage d’acteurs malveillants puissent utiliser le même type de tactique pour introduire la désinformation et la propagande dans les résultats de recherche. “C’est extrêmement menaçant”, dit Abraham. “Nous voulons tirer la sonnette d’alarme.” À cette fin, les deux hommes ont publié un rapport sur leurs conclusions et prévoient d’en publier davantage à mesure qu’ils approfondiront le monde des appâts à clics de l’IA, en espérant que leurs efforts pendant leur temps libre pourront aider à sensibiliser le public ou les législateurs à ce problème.
“Non seulement les articles que nous avons examinés sont générés par l’IA, mais les images incluses dans chaque article ont toutes été créées à l’aide de modèles de diffusion”, explique Ben Colman, PDG de la startup de détection de deepfake Reality Defender, qui a analysé plusieurs articles à la demande de WIRED. . En plus de cette confirmation, Abraham et Eastin ont remarqué que certains articles contenaient des textes admettant leurs origines artificielles. “Il est important de noter que ces informations ont été générées automatiquement par Automated Insights”, indiquent certains articles, citant une entreprise qui propose une technologie de génération de langage.
Au total, Eastin et Abraham ont identifié neuf sites Web différents liés à la société informatique polonaise qui semblaient comprendre un réseau d’appâts à clics IA. Tous les sites semblaient avoir été choisis parce qu’ils avaient une réputation préétablie auprès de Google qui pourrait les aider à gagner en importance dans les classements de recherche et à générer des clics.
Source et plus: https://www.wired.com/story/iowa-newspaper-website-ai-generated-clickbait-factory/
C’est un peu votre faute aussi, quelle idée de lire des cochonneries ?
