Le chantage via des lunettes connectées est désormais réel

[Ph0ton77]

Un peu hors contexte, mais ca me fait penser à un autre article datant du mois de mars ou des sous traitants des lunettes meta au Kenya, racontent avoir accès à des “images et scènes intimes”, des consommateurs sans qu’ils ne soient vraiment au courant (personne ne lit les CGV), dans le but d’améliorer l’IA.
Et le problème de ca, ca reste les personnes filmées à leurs insu dans la rue par exemple.

Voici l’article du Monde :

On voit aussi des scènes de sexe filmées » : quand les sous-traitants des lunettes Meta à Nairobi voient tout, vraiment tout
Deux médias suédois ont révélé que des employés d’un sous-traitant de Meta au Kenya visionnent les images captées par les lunettes connectées « Ray-Ban Meta », y compris des scènes intimes. Une plainte a été déposée aux Etats-Unis.

Derrière les serveurs géants de l’intelligence artificielle (IA), il n’y a pas que des puces ultraperformantes. Il y a aussi des êtres humains, et ils voient tout, ou presque, même s’ils sont chez Sama, un sous-traitant de Meta perdu à Nairobi, la capitale du Kenya. C’est ce que révèle une enquête publiée, à la fin de février, par les médias suédois Svenska Dagbladet et Göteborgs-Posten sur les lunettes d’IA de Meta, les « Ray-Ban Meta », présentées fièrement par le PDG, Mark Zuckerberg, à l’automne 2025, à Palo Alto, en Californie.
Les journalistes suédois sont allés interviewer au Kenya les employés du centre de données, qui aident à améliorer le fonctionnement desdites lunettes et voient donc, à l’occasion, ce qui se passe à des milliers de kilomètres chez les consommateurs qui ont autorisé l’usage de leurs données. « On y voit aussi des scènes de sexe filmées avec les lunettes connectées – quelqu’un les porte et a des relations sexuelles », raconte l’un. « On voit des conversations où quelqu’un parle de crimes ou de manifestations. Ce ne sont pas que des salutations, ça peut aussi être des choses très sombres », poursuit un autre. « J’ai vu une vidéo où un homme pose ses lunettes sur la table de chevet et quitte la pièce. Peu après, sa femme entre et se change », renchérit un troisième.

Bref, les employés, dont l’anonymat a été préservé par Svenska Dagbladet et Göteborgs-Posten, voient tout, des toilettes à la cuisine, y compris les cartes de crédit laissées sur les tables. C’est l’enjeu décisif de l’IA physique ou connectée : derrière la machine, il y a des employés, dans des bureaux, qui interviennent pour améliorer la performance du produit ou le débloquer en cas de bug.
C’est, par exemple, ce qu’il se passe lorsque les taxis autonomes Waymo se retrouvent immobilisés, dans une impasse, lors d’une panne d’électricité : le back-office prend le relais, en direct. Ce problème existe aussi pour les robots humanoïdes, censés être installés au domicile des particuliers. Parfois, à distance, l’homme reprend la main sur la machine, et voit tout ou entend tout, même si tout est fait, en théorie, pour être flouté ou anonymisé. Mais l’anonymat n’empêche pas de voir ce qu’il se passe.

« Promesse mensongère »

Au Royaume-Uni, l’autorité britannique de protection des données, le Bureau du commissaire à l’information, a déclaré, à la BBC mercredi 4 mars, que « les affirmations de cet article sont préoccupantes. Nous allons écrire à Meta pour lui demander des informations sur la manière dont elle respecte ses obligations en vertu de la législation britannique sur la protection des données ».
L’affaire a entraîné des poursuites aux Etats-Unis. La firme et son fournisseur de lunettes, EssilorLuxottica, sont poursuivis en justice par Gina Bartone, résidente du New Jersey, et Mateo Canu, habitant de Californie, représentés par le cabinet d’avocats de San Francisco Clarkson. Ce cabinet, spécialisé dans la défense des intérêts publics, affirme, dans une plainte déposée mercredi 4 mars, que Meta a violé les lois sur la protection de la vie privée et s’est livré à de la publicité mensongère. La campagne Meta promettait, en effet, à propos des lunettes : « Conçues pour préserver votre vie privée, contrôlées par vous. »

« Cette promesse est mensongère, accuse la plainte. Au contraire, les vidéos, capturées par les lunettes, y compris des moments très intimes à domicile, sont transmises aux serveurs de Meta, puis acheminées vers un sous-traitant au Kenya. Là, des employés visionnent et étiquettent manuellement les images afin d’entraîner les modèles d’IA de Meta. Ces employés affirment tout voir… Ils signalent également que l’“anonymisation faciale” vantée par Meta ne fonctionne pas. Si les examinateurs expriment des inquiétudes quant à la nature très personnelle des images qu’ils sont contraints de visionner et d’étiqueter, ils sont licenciés », résume la plainte.

Les interminables conditions d’utilisation de Meta, qu’aucun consommateur ne lit dans le détail, précisent que, « dans certains cas, Meta examinera vos interactions avec les IA, y compris le contenu de vos conversations ou messages avec les IA, et cet examen peut être automatisé ou manuel [humain] ». Interrogé, un porte-parole de Meta nous écrit par e-mail que « les lunettes Ray-Ban Meta vous permettent d’utiliser l’IA, avec les mains libres, pour répondre à des questions sur le monde qui vous entoure. A moins que les utilisateurs ne choisissent de partager les contenus multimédias qu’ils ont capturés avec Meta ou d’autres services, ces contenus restent sur leur appareil. Lorsque des utilisateurs partagent du contenu avec Meta AI, nous faisons parfois appel à des sous-traitants pour analyser ces données, afin d’améliorer l’expérience utilisateur, comme le font de nombreuses autres entreprises. Nous prenons des mesures pour filtrer ces données afin de protéger la vie privée des utilisateurs et d’empêcher que des informations permettant de les identifier ne soient consultées ».

[Raccoon]

Déjà avec l’arrivée des caméras IP puis des enceintes connectées on a vu toutes les dérivent possibles avec ces outils, comment s’imaginer qu’il n’en soit pas de même avec des lunettes caméras. Il faut vraiment n’accorder aucune importance à sa vie privée pour installer de tels objets chez soi.

[vini]

@Raccoon

Bonjour,

Le problème ce n’est pas les évolutions technologiques. En fait, on peut facilement imaginer plein d’applications positives pour les lunettes connectés. Comme par exemple en terme médical pour des soins à distance.

Le problème n’est pas la technologie, mais l’humain. C’est toujours le même problème.

L’humain n’a pas besoin besoin de prédateurs, puisque qu’il est son propre prédateur.

Bonne journée.

[Raccoon]

En l’occurence si, les technos connectées à des clouds privés sont un souci puisque celui qui les achète n’est pas maitre de la manière dont sont traitées ses données.
On le voit bien aussi avec les problèmes de souveraineté numérique.
On peut aussi mettre en avant le gaspillage de ressources et d’énergie de ces technos absolument dispensables.
Qui a obligatoirement besoin d’un assistant vocal pour allumer ses lumières et fermer ses volets ? Qui a besoin de filmer son quotidien avec des lunettes ? Qui a besoin de filmer et d’enregistrer ce qui se passe à l’intérieur de chez lui ?
Réponses : personne. Cette technologie complètement dispensable est un réel problème et va l’être de plus en plus.

[vini]

@Raccoon

Je pense que tu as tort, du moins en partie.
En effet pour reprendre tes exemples,

"Qui a obligatoirement besoin d’un assistant vocal pour allumer ses lumières et fermer ses volets ? ".
Je connais une personne en fauteuil roulant qui serait ravie d’utiliser ce genre de technologie.

“Qui a besoin de filmer et d’enregistrer ce qui se passe à l’intérieur de chez lui ?”
Mon utilisation est de vérifier que mes animaux vont bien quand je dois m’absenter un peu longuement.

Un autre exemple, beaucoup plus basique :
J’ai des couteaux, chez moi, j’en ai de plusieurs sortes pour différentes utilisations. Il ne me viendrais pas à l’idée de m’en servir pour tuer quelqu’un.
Malheureusement ce n’est pas le cas de tout le monde, beaucoup de meurtres sont commis avec de simples couteaux de cuisine.

Le problème n’est pas la technologie, le problème c’est quasiment tous le temps l’utilisation mal intentionnée que les humains en fond.

[Ph0ton77]

@Raccoon a dit:

Cette technologie complètement dispensable est un réel problème et va l’être de plus en plus.

C’est le problème de tous les appareils connectés dans la sphère privé comme les robots aspirateurs, les enceintes vocales,… toutes ces data qui partent sur des clouds sans possibilité pour l’utilisateurs d’avoir la main dessus.

Maintenant il y a même des gens qui récupèrent notre voix (par exemple lors de démarchage téléphonique par IA) ensuite avec l’IA ils font croire à des proches que nous avons un problème (exemple, téléphone HS, besoin d’un virement) avec des messages vocaux pour soutirer de l’argent

@vini a dit:

Le problème n’est pas la technologie, le problème c’est quasiment tous le temps l’utilisation mal intentionnée que les humains en fond.

Mais comment faire pour que l’humain n’en fasse pas une mauvaise utilisation ? Supprimer les couteaux ? Supprimer les humains

[vini]

@Ph0ton77

“Mais comment faire pour que l’humain n’en fasse pas une mauvaise utilisation ? Supprimer les couteaux ? Supprimer les humains”

C’est là le réel problème, et je n’ai pas la solution !

[Magissia]

@Ph0ton77 a dit:

Supprimer les humains

Probablement ça.

[Mister158]

Houah j’imagine le cauchemar pour les nanas sur les plages naturiste. Difficile de dire que les lunettes de soleil sont interdites. Les téléphones c’est bon tout le monde est averti mais les lunettes…

Même dans le monde de l’entreprise c’est une catastrophe avec tous les secrets professionnels qui peut y avoir…

Je crois que c’est korben qui parlait d’une application sur téléphone qui peut permettait de savoir s’il y en avait autour de nous. Il va falloir généraliser ça

[kaelyfer]

@Mister158 C’est vrai ça, je n’y avais pas pensé ! Les femmes (ou les hommes d’ailleurs) qui font du nudisme, ou aiment le monokini à la plage ; pas sûr que ces personnes aient pour autant envie qu’on dévoile leur anatomie n’importe où et sans leur consentement.
Mais franchement, comme dit plus haut par plusieurs personnes : déjà, avoir l’idée de faire ça (filmer quelqu’un à son insu, le diffuser puis faire du chantage. Ou pas), faut quand même avoir l’esprit un brin mal tourné.
Et j’apprends ici également, grâce à @ph0ton77 , que des gens récupèrent notre voix pour pouvoir l’usurper ?!
Décidément, je vivais dans un monde de Bisounours jusque là…
En tout cas, merci pour toutes les infos que vous partagez au travers des différents topics, c’est passionnant.

[Popaul]

Sinon, je ne suis pas certain d’avoir compris le délire.

Entre la madame qui serait gênée par cette vidéo… Hormis le fait d’être filmée, est-ce qu’il y aurait quelque chose qui l’a met dans l’embarras ? (chourave une pomme, par exemple).
Et le mec là… Demander une rançon pour une vidéo qui n’aurait qu’un mini-buzz comme intérêt ?

Nous avons chacun notre caractère, mais peut-être qu’elle aurait pu jouer avec ce “succès” pour demander des droits d’auteurs ^^
Le gaillard est quand même une sacrée “flute” ^^