«L'invasion de l'IA sur YouTube a commencé»
-
Des chaînes YouTube douteuses submergent la plateforme vidéo de Google avec des contenus problématiques. Derrière tout cela se cache l’IA générative. Et cela ne fait que commencer.
Le journaliste et auteur allemand Mats Schönauer a étudié le phénomène sur YouTube et en tire une conclusion décevante: les contre-mesures prises jusqu’à présent apportent bien trop peu de solutions. Mais Google promet de s’améliorer.
«Il semble qu’il y ait beaucoup de gens qui tombent dans le panneau de ce genre de fakes»
Mats Schönauer(Quand les gens croient que la terre est plate, rien de plus facile de leur faire gober autre chose)
Au cours de recherches menées pendant des mois, Mats Schönauer a découvert, selon ses propres dires, «un énorme réseau» de chaînes YouTube dont le contenu vidéo est entièrement généré par l’IA. Les créateurs diffusent des «photomontages choquants» et des «fausses informations répugnantes».
De telles images visent à faire croire aux utilisateurs que des personnes connues ont dû être amputées d’un bras ou d’une jambe, voire des deux. D’autres fausses vidéos diffusent des mensonges pouvant faire l’objet de plaintes judiciaires:
Une vidéo d’IA montrerait le corps de l’ancien pilote de Formule 1 Michael Schumacher.
La star de «Home Alone», Macaulay Culkin, aurait pris plus de 300 kilos.
L’ancienne star du tennis Boris Becker aurait violé sa fille alors qu’il était ivre.La liste des fausses informations pourrait s’allonger à l’infini. D’après Mats Schönauer, c’est la première fois que des mensonges générés par l’IA sont diffusés à une telle échelle au sujet de personnes réelles.
Selon le journaliste, à cela s’ajoute le fait que les responsables derrière les vidéos d’IA sur YouTube provoquent aussi avec du «ragebait»: ils ne profitent pas seulement de la curiosité des utilisateurs, mais aussi de leur colère.
Ces chaînes intéressent manifestement un large public. Les vidéos qu’il a étudiées ont été visionnées plus de 100 millions de fois.
Le problème commence avec les images d’aperçu:
Avec de tels aperçus, on essaie d’obtenir le plus de clics possible.
Le journaliste soupçonne que des réseaux entiers se cachent derrière ce modèle:
«De telles fermes de contenu existent certes depuis longtemps, mais grâce aux outils d’IA de plus en plus performants et abordables, elles peuvent désormais produire beaucoup plus de contenu en un temps encore plus court et pour un coût encore plus faible. Et en quelques clics, les commanditaires peuvent mettre en ligne et alimenter des chaînes YouTube entières dans différentes langues.»
Une telle situation avait déjà été observée auparavant sur d’autres sujets, comme les vidéos de bricolage produites à bas prix et les vidéos d’animation douteuses destinées aux enfants.
Il convient de noter que les vidéos IA ne se limitent pas aux fake news sur les célébrités. Depuis un certain temps, YouTube a également un problème massif avec les fausses vidéos éducatives qui s’adressent à un public jeune, voire très jeune.
Les vidéos correspondantes portent des titres comme «20 choses horribles dans la forêt amazonienne» ou «15 créatures géantes trouvées sur les plages». Et elles atteignent souvent un public de plusieurs millions de personnes.
Source et plus: https://www.watson.ch/fr/international/intelligence-artificielle/479372294-les-videos-ia-inondent-youtube-voici-les-risques
-
Pas très réjouissant tout ça.
Quand internet s’est démocratisé beaucoup, dont moi, ont cru que ce merveilleux outil allait permettre de diffuser la connaissance, de s’intéresser à ce qui existe dans les autres pays sans obligation de se déplacer, d’échanger, de discuter entre personnes de milieux sociaux différents qui ne se croisent jamais, ou très peu AFK. Quand on voit ce que c’est devenu : fake news, réseau sociaux clivants, harcèlement, narcissisme, consommation outrancière d’objets inutiles, etc.Internet à ses débuts nous promettait du positif, malheureusement ça a vite tourné court.
Avec l’“IA” dès le début on nous annonce tout un tas de catastrophes, on n’imagine peut-être même pas dans quoi on a mis le pied et ça sera bien pire qu’annoncé. -
-
Tant que l’offre (gratuite) de sites sérieux est là, internet est ce que l’on en regarde
Je ne fréquente pas les réseaux sociaux, je bloque la pub, je boycotte les cons, donc tout ça, pour moi, c’est comme ça n’existait pas (ou presque).
-
Bonjour, je pense que l’ia est clairement une révolution majeure dans l’humanité.
Et elle doit être le plus encadré le plus possible tout en restant fonctionnel et utile à l’humanité.
Le problème, c’est que l’humanité a fait de très nombreuse fois les mauvais choix.
Mais maintenant, il est vraiment urgent de faire les bons choix, que cela va impacter les décennies à venir.Quelle est la différence entre un outil et une arme ?
-
@lladhar Bonjour, ce que les journalistes nomment “I.A.” ne possède pas la moindre intelligence, c’est juste une restitution statistique et probabiliste d’un contenu choisi, ou pire, ouvert, comme internet, et qui ne peut absolument pas porter le moindre jugement de valeur (à part celui du programmeur qui essaye de restreindre les domaines d’application au légal et au respect) sur les questions qu’on lui pose et encore moins de ses réponses.
Quand on lit des articles comme “ChatGPT va-t-il remplacer le médecin ?” ou ChatGPT va-t-il remplacer le psychiatre ?", ça fait peur.
Il y a des gens qui consultent ChatGPT à tort ou à travers, par exemple pour des problèmes de couple, et les réponses ne seront pas les réponses appropriées à chaque cas, mais celles aveugles de la majorité des réponses du modèle avec lequel le système prédictif fonctionne.
Libre à chacun de confier la direction de sa vie à n’importe qui, voire à n’importe quoi, et d’ailleurs pour avoir besoin d’un psy, il faut déjà être bien atteint, mais il ne faut pas en espérer un miracle, tout au plus un nivellement par le bas.
On peut donc effectivement dire que c’est une révolution majeure, car une grande majorité du grand public y croit aussi dur que la terre plate, ou au même titre que la religion
mais de là à dire que c’est une bonne chose… -
@lladhar a dit dans «L'invasion de l'IA sur YouTube a commencé» :
Bonjour, je pense que l’ia est clairement une révolution majeure dans l’humanité.
Si ça guérissait le cancer, Alzheimer, les formes de démence, la sclérose en plaques etc etc, oui saurait été une révolution majeure mais bon, c’est juste un gadget pour s’amuser, avec des lignes de code fait par l’humain de dire et quoi faire (ça me fait penser à mon petit jouet cozmo).
Enlève le net à cette ia entre guillemets, et elle fera kdal.
On est très très très très loin de skynet ou des humanoïdes autonome comme l’homme bicentenaire qui penserait par eux même ^^ -
Ah mais je suis clairement d’accord avec vous. Mais c’est le potentiel. D’où les choses commencent.
Je sais que l’ia d’aujourd’hui concrètement est un amas de données lié et ressorti sans aucune logique derrière. Mais pour aujourd’hui.
