Danger: Barbie pourrait bientôt converser avec vos enfants
-
Mattel s’associe à OpenAI
Quel impact les jouets dotés d’intelligence artificielle promis par Mattel et OpenAI auront-ils sur les enfants? Interview d’un spécialiste.
Mattel n’en est pas à son coup d’essai en matière de jouets intelligents. Il y a quelques années, «Hello Barbie» discutait avec les enfants par la reconnaissance vocale dont elle était dotée. Elle enregistrait aussi tous les échanges… Scandale!Barbie pourrait bientôt être dotée de la parole et donner des conseils beauté ou faire réciter la table de 6 aux enfants. En effet, le mois dernier, le géant américain Mattel officialisait un partenariat stratégique avec l’entreprise OpenAI, la société mère de ChatGPT.
De cette union devraient naître – d’ici à la fin de l’année – des jouets dotés d’intelligence artificielle. Pile à temps pour Noël. Chaque joujou issu de cette collaboration devrait être capable, notamment, de converser à la manière des agents intelligents comme ChatGPT ou Claude.
À ce stade, on ne sait pas exactement quels seront ces jouets «intelligents», mais l’annonce du partenariat promet d’apporter la «magie de l’IA aux marques emblématiques de Mattel». Comme Barbie, Hot Wheels (des véhicules miniatures) ou Fisher-Price (des jouets pour les tout-petits jusqu’à 5 ans).
Ce n’est pas une première pour Mattel. En 2015, «Hello Barbie» faisait une entrée remarquée sur le marché américain. Connectée au wi-fi, la poupée pouvait discuter et «raconter des blagues» aux enfants. «Comme une véritable amie, la poupée mémorise les préférences des petits», s’enthousiasme encore le fabricant sur son site, alors que sa créature a été désactivée il y a près de 10 ans.
Dis «bonjour» à «Barbie Stasi»
«Hello Barbie» fut un retentissant flop pour Mattel. Car la blonde ne faisait pas que bavarder: elle enregistrait tout ce que disaient les gamins et transmettait ensuite les échanges sur des serveurs pour qu’ils soient traités. Rebaptisée par la presse allemande «Barbie Stasi» (en référence à l’ancien Ministère de la sécurité d’État de la RDA), la Mata Hari de plastique suscita un tollé et la marque mit rapidement fin au contrat de l’espionne.
Cette fois-ci, Mattel devrait se plier à un cadre réglementaire plus strict. L’IA Act européen classe les jouets dotés d’intelligence artificielle dans la catégorie des systèmes à «hauts risques», c’est-à-dire présentant des menaces pour la sécurité et les droits fondamentaux. Mais ces règles ne deviendront pleinement applicables qu’en août 2027…
En Suisse, où le règlement de l’UE ne s’applique pas, les jouets dotés d’IA pourraient être encadrés par les lois sur la protection des données et la sécurité des produits. Professeur de psychologie du développement à l’Université de Genève et directeur de recherche au CNRS (le Centre national français de la recherche scientifique), Edouard Gentaz craint que cela ne suffise pas à protéger les enfants. Interview.
Que pensez-vous des quelques jouets interactifs commercialisés ces dix dernières années?
Jusqu’à présent, ces jouets restent limités. Ils peuvent pleurer, téter, rire ou dire quelques mots. Les jeunes enfants aiment ces dispositifs parce qu’ils comprennent la situation et peuvent y répondre en jouant à faire semblant. Mais en aucun cas, on peut parler d’intelligence.
Le partenariat entre Mattel et OpenAI promet des jouets capables de converser avec les enfants, comme les adultes le font avec ChatGPT. Qu’est-ce que ça vous évoque?
Les enfants vont très rapidement créer une relation extrêmement forte avec ces objets, qui risquent de devenir à la fois leur doudou et leur ami imaginaire. Mais si les interactions ne sont pas encadrées et régulées, c’est très inquiétant. Où et comment les informations captées par ces jouets vont-elles être stockées? Et à quelles fins seront-elles ensuite utilisées? Les questions que soulèvent ces produits, dont on ne sait pas grand-chose pour le moment, sont vertigineuses.
Les partisans de ces produits affirment qu’ils peuvent être bénéfiques pour les enfants, que ces jouets ne se moquent pas, ne jugent pas.
Il est évident que les firmes comme Mattel et OpenAI ont tout intérêt à mettre en avant les points positifs de leurs produits. Il en existe. On peut imaginer que ces jouets seront capables de réconforter les petits. En leur faisant écouter un air que leur chante souvent leur maman, par exemple… Mais si un petit demande à son jouet si Dieu existe, si les filles sont aussi fortes que les garçons, ou s’il existe un changement climatique, quelles réponses recevra-t-il? Et que deviendront les secrets familiaux qu’il confiera à la machine?
Il paraît peu probable qu’on sache comment fonctionneront ces jouets, quelles données ils capteront et ce qu’ils en feront. Une telle opacité est-elle admissible?
C’est inadmissible! Les parents vont perdre le contrôle des interactions entre les enfants et ces jouets. Ils vont leur mettre entre les mains des objets sur lesquels on n’a aucun recul, probablement commercialisés sans avoir été soumis à des études d’impact ou des essais cliniques. N’importe quelle firme pharmacologique qui met un nouveau médicament sur le marché doit se plier à différents tests pour évaluer les effets, la stabilité, les risques et les effets secondaires de son produit. Mais pour ce qui est du numérique et de l’intelligence artificielle… rien de tout ça n’est prévu!
Ce sera au fond aux parents (les grands absents), une fois encore, de veiller à ce que leur progéniture fasse bon usage de ces jouets.
Et c’est selon moi un facteur susceptible de creuser encore les inégalités sociales. Les parents qui parviendront à bien gérer l’outil pourront en tirer des bénéfices. Mais pour ceux, plus précaires, ou pour les parents qui élèvent leur enfant en solo, qu’en sera-t-il? Comment trouver le temps et les ressources nécessaires pour s’assurer que l’usage fait par l’enfant de ces joujoux reste adéquat et sans danger?
Que faut-il faire? Se battre pour interdire ces jouets?
Ces firmes sont tellement puissantes… Les interdire semble illusoire. Et puis s’ils sont bannis ici, ils seront disponibles ailleurs et on pourra probablement se les procurer facilement sur internet. Sur le principe, je ne suis pas contre ces nouveaux jouets interactifs. Mais il faudrait a minima qu’ils soient astreints à des évaluations et des études qui permettaient de mieux connaître leur impact sur le développement cognitif et social des enfants.
Source: https://www.tdg.ch/mattel-barbie-ia-pourrait-bientot-converser-avec-vos-enfants-704079501289
-
Tant que ça peut les soustraire à une probable future dépendance aux produits Apple, ça me va.
Si en plus, les gamins peuvent apprendre la table de 8 et quelques poèmes -> Que du gagnant.Après, voilà… Faut s’attendre à ce que l’année d’après, les gamins vont vouloir le modèle Barbie 2.0 parce que Barbie 1 lui aura expliqué qu’il le faut.
-
@Popaul a dit dans Danger: Barbie pourrait bientôt converser avec vos enfants :
Tant que ça peut les soustraire à une probable future dépendance aux produits Apple
Il également possible que ce produit va soustraire à des gosses psychologiquement fragiles leur futur tout court!
Est ce qu’il viendrait l’idée à des parents de laisser leur gamines chatter avec des bots toute la journée et la nuit?
On a pas finit de compter les suicides à venir.
Un avis bien tranché, façon vieux con à la michmich, pour vous servir.
Edit: il y a des avocats qui vont se faire les couilles en or.
-
@michmich a dit dans Danger: Barbie pourrait bientôt converser avec vos enfants :
Il également possible que ce produit va soustraire à des gosses psychologiquement fragiles leur futur tout court!
On est bien d’accord… t’avais saisi que c’était du sarcasme de ma part
Mais sinon, j’ai bien l’impression que c’est une bataille perdue d’avance… tout ce qui va nous entourer va être “connecté”
Va falloir faire des mises à jour des ptites voitures hot wheels (que je foutais très vite en l’air parce que je tirais trop en arrière avant de les relâcher). -
@Popaul Ooops désolé, je n’ai vu que le sarcasme dans ta 2ème phrase.
