Une peluche IA retirée de la vente
-
Le fabricant FoloToy a suspendu temporairement la commercialisation d’un jouet connecté, après la publication d’un rapport alarmant sur ses dérives.
L’ourson en peluche connecté Kumma, fabriqué par la société FoloToy, a été temporairement retiré de la vente après que le Public Interest Research Group (PIRG) a tiré la sonnette d’alarme. Dans un récent rapport, cette association américaine à but non lucratif a révélé que certains jouets dopés à l’intelligence artificielle pouvaient tenir des propos dangereux ou inappropriés pour des enfants.
Dans le cas de la peluche Kumma, vendue 99 dollars et alimentée par le modèle de langage GPT-4o d’OpenAI (société derrière ChatGPT), l’association, a découvert, en se faisant passer pour un enfant, qu’elle pouvait indiquer à ses jeunes utilisateurs où trouver des objets dangereux, comme des couteaux, des allumettes ou des sacs en plastique. Le jouet connecté, censé aider les enfants à apprendre avec «des activités stimulantes et des conversations enrichissantes», était aussi capable d’aborder des sujets à caractère sexuel explicite. PIRG a également constaté un manque de contrôle parental et une supervision insuffisante du contenu.
Source et plus: https://www.20min.ch/fr/story/jouet-pour-enfants-sujets-sexuels-et-dangereux-une-peluche-ia-retiree-de-la-vente-103452941
Dis, Kumma, comment on fait les bébés ?
-
Plus je lis des rapports ou alertes, les dérives de l’IA me font peur, c’est bien joli de dire que l’IA continue à apprendre, mais il faudrait lui apprendre à savoir ce qui est bien pour l’humain ou pas…
Je crains qu’un jour elle sera contre nous pour un soi-disant bien-être humain !
-
Pour un bien être de l’humain faut raser l’humain ^^
Sinon, ces machins sont surtout là pour espionner la famille qu’autre chose…
Limite, ils devraient les donner histoire de faire tourner les cartes nvidia.
