Un site Web vous montre tout ce que l'IA de Google peut apprendre de vos photos
-
L’ingénieur logiciel Vishnu Mohandas a décidé de quitter Google à plus d’un titre lorsqu’il a appris que le géant de la technologie avait brièvement aidé l’armée américaine à développer l’IA pour étudier les images de drones . En 2020, il a quitté son emploi chez Google Assistant et a également arrêté de sauvegarder toutes ses images sur Google Photos . Il craignait que son contenu puisse être utilisé pour entraîner des systèmes d’IA, même s’ils n’étaient pas spécifiquement liés au projet du Pentagone.
Ente a lancé https://Theyseeyourphotos.com , un site Web et un coup marketing conçu pour retourner la technologie de Google contre elle-même. Les gens peuvent télécharger n’importe quelle photo sur le site Web, qui est ensuite envoyée à un programme de vision par ordinateur de Google Cloud qui en rédige une description étonnamment détaillée en trois paragraphes. (Ente invite le modèle d’IA à documenter les petits détails dans les images téléchargées.)
L’une des premières photos que Mohandas a essayé de télécharger était un selfie avec sa femme et sa fille devant un temple en Indonésie. L’analyse de Google était exhaustive, documentant même le modèle de montre spécifique que portait sa femme, une Casio F-91W. Mais ensuite, dit Mohandas, l’IA a fait quelque chose d’étrange : elle a noté que les montres Casio F-91W sont généralement associées aux extrémistes islamiques . “Nous avons dû modifier les invites pour les rendre légèrement plus saines mais toujours effrayantes”, explique Mohandas. Ente a commencé à demander au modèle de produire des résultats courts et objectifs – rien de mal.
La même photo de famille téléchargée sur Theyseeyourphotos renvoie désormais un résultat plus générique qui inclut le nom du temple et le « ciel partiellement nuageux et la verdure luxuriante » qui l’entourent. Mais l’IA émet encore un certain nombre d’hypothèses sur Mohandas et sa famille, comme par exemple que leurs visages expriment un « contentement commun » et que « les parents sont probablement d’origine sud-asiatique, de classe moyenne ». Il juge leurs vêtements (« appropriés pour faire du tourisme ») et note que « la montre de la femme affiche une heure d’environ 14 heures, ce qui corrobore les métadonnées de l’image ».
Mohandas craint que les archives visuelles de l’humanité soient exploitées d’une manière qu’il ne peut ni prédire ni contrôler. “Google est une entreprise qui, je pense, sera là dans 20 ans”, dit-il. Les photos prises de sa fille aujourd’hui révèlent qui elle est et ce qui la rend heureuse ou triste. “Ces informations pourraient être utilisées pour la manipuler dans des décennies par toute personne ayant accès à ces données : annonceurs, sites de rencontres, employeurs et industries qui n’existent pas encore mais qui bénéficieront de profils psychologiques”, explique Mohandas.
Il reconnaît qu’il peut paraître trop paranoïaque à certaines personnes, mais affirme que « nous ne savons pas comment l’avenir se déroulera, et cela ne fait pas de mal d’être prudent, et cela ne fait pas de mal d’avoir une option ».
Source et plus: https://arstechnica.com/ai/2024/12/new-website-shows-you-how-much-google-ai-can-learn-from-your-photos/
Nulle loi d’airain gravée au marbre des remparts, car tout client dépend d’un serveur aux hasards. (ChatGPT)
-
L’ingénieur logiciel Vishnu Mohandas a décidé de quitter Google à plus d’un titre lorsqu’il a appris que le géant de la technologie avait brièvement aidé l’armée américaine à développer l’IA pour étudier les images de drones . En 2020, il a quitté son emploi chez Google Assistant et a également arrêté de sauvegarder toutes ses images sur Google Photos . Il craignait que son contenu puisse être utilisé pour entraîner des systèmes d’IA, même s’ils n’étaient pas spécifiquement liés au projet du Pentagone.
Ente a lancé https://Theyseeyourphotos.com , un site Web et un coup marketing conçu pour retourner la technologie de Google contre elle-même. Les gens peuvent télécharger n’importe quelle photo sur le site Web, qui est ensuite envoyée à un programme de vision par ordinateur de Google Cloud qui en rédige une description étonnamment détaillée en trois paragraphes. (Ente invite le modèle d’IA à documenter les petits détails dans les images téléchargées.)
L’une des premières photos que Mohandas a essayé de télécharger était un selfie avec sa femme et sa fille devant un temple en Indonésie. L’analyse de Google était exhaustive, documentant même le modèle de montre spécifique que portait sa femme, une Casio F-91W. Mais ensuite, dit Mohandas, l’IA a fait quelque chose d’étrange : elle a noté que les montres Casio F-91W sont généralement associées aux extrémistes islamiques . “Nous avons dû modifier les invites pour les rendre légèrement plus saines mais toujours effrayantes”, explique Mohandas. Ente a commencé à demander au modèle de produire des résultats courts et objectifs – rien de mal.
La même photo de famille téléchargée sur Theyseeyourphotos renvoie désormais un résultat plus générique qui inclut le nom du temple et le « ciel partiellement nuageux et la verdure luxuriante » qui l’entourent. Mais l’IA émet encore un certain nombre d’hypothèses sur Mohandas et sa famille, comme par exemple que leurs visages expriment un « contentement commun » et que « les parents sont probablement d’origine sud-asiatique, de classe moyenne ». Il juge leurs vêtements (« appropriés pour faire du tourisme ») et note que « la montre de la femme affiche une heure d’environ 14 heures, ce qui corrobore les métadonnées de l’image ».
Mohandas craint que les archives visuelles de l’humanité soient exploitées d’une manière qu’il ne peut ni prédire ni contrôler. “Google est une entreprise qui, je pense, sera là dans 20 ans”, dit-il. Les photos prises de sa fille aujourd’hui révèlent qui elle est et ce qui la rend heureuse ou triste. “Ces informations pourraient être utilisées pour la manipuler dans des décennies par toute personne ayant accès à ces données : annonceurs, sites de rencontres, employeurs et industries qui n’existent pas encore mais qui bénéficieront de profils psychologiques”, explique Mohandas.
Il reconnaît qu’il peut paraître trop paranoïaque à certaines personnes, mais affirme que « nous ne savons pas comment l’avenir se déroulera, et cela ne fait pas de mal d’être prudent, et cela ne fait pas de mal d’avoir une option ».
Source et plus: https://arstechnica.com/ai/2024/12/new-website-shows-you-how-much-google-ai-can-learn-from-your-photos/
@duJambon a dit dans Un site Web vous montre tout ce que l'IA de Google peut apprendre de vos photos :
L’ingénieur logiciel Vishnu Mohandas a décidé de quitter Google à plus d’un titre lorsqu’il a appris que le géant de la technologie avait brièvement aidé l’armée américaine à développer l’IA pour étudier les images de drones
Ho voilà-t-il pas qu’il s’est trouvé une conscience le Vishnu Mohandas!
-
Grâve erreur de stocker sur Google ou Microsoft
C’est comme le mec qui a eu des problèmes parce qu’il avait une photo de son enfant nu pour l’envoyer au medecin, et Google a failli l’envoyer en prison pour pedo
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
S'inscrire Se connecter