Human Right Watch a analysé une partie de la base de données LAION-5B très utilisée pour entrainer des outils d’IA générateurs d’images et s’est rendu compte qu’elle contiendrait des liens vers des photos d’enfants brésiliens sans leur consentement.

L’ONG Human right watch explique avoir repéré des photos personnelles d’enfants brésiliens dans la base de données LAION-5B. Créée le professeur de lycée allemand Christoph Schuhmann, celle-ci a été notamment utilisée par Stable Diffusion et par Google pour entrainer leurs modèles d’IA génératives de text-to-image.

Une toute petite partie de la base de données explorée

Ces photos ne figurent pas en tant que telles dans la base de données. LAION-5B liste notamment des liens vers diverses photos qui ont été mises en ligne qu’elle associe à du texte. Elle s’appuie sur l’autre base de données Common Crawl qui parcourt internet et stocke les contenus trouvés.

La chercheuse de l’ONG, Hye Jung Han, a examiné une toute petite partie de LAION-5B (moins de 0,0001 % des 5,85 milliards d’images) mais a trouvé 170 photos d’enfants brésiliens venant d’au moins 10 États du pays.

Des photos de moments intimes

La plupart de ces photos n’ont été vues que par très peu de personne et « semblent avoir bénéficié auparavant d’une certaine intimité » explique Human Rights Watch, qui a vérifié en utilisant des moteurs de recherche.

L’ONG affirme que LAION, l’association allemande fondée par Schuhmann pour gérer la base de données, a confirmé l’existence des liens vers ces photos dans sa base de données et a promis de les supprimer. Mais elle a ajouté qu’il incombait aux enfants et à leurs tuteurs de retirer les photos personnelles des enfants de l’internet, ce qui, selon elle, constitue la protection la plus efficace contre les abus.

Dans une réponse à Wired, LAION a affirmé avoir supprimé les liens vers les contenus signalés par Human Right Watch. Mais un de ses représentants a ajouté que « la suppression des liens d’un ensemble de données LAION ne supprime pas ce contenu du web […] il s’agit d’un problème plus vaste et très préoccupant, et en tant qu’organisation bénévole à but non lucratif, nous ferons notre part pour y remédier ».

Selon l’association, les photos listées par LAION représentaient « des moments intimes comme des bébés naissant entre les mains gantées de médecins, des jeunes enfants soufflant les bougies de leur gâteau d’anniversaire ou dansant en sous-vêtements à la maison, d’élèves faisant un exposé à l’école et d’adolescents posant pour des photos à carnaval du lycée ».

Hye Jung Han explique à Wired que « leur vie privée est violée en premier lieu lorsque leur photo est récupérée et intégrée dans ces ensembles de données. Ensuite, ces outils d’intelligence artificielle sont entrainés à partir de ces données et peuvent donc créer des images réalistes d’enfants ». Elle ajoute que « la technologie est développée de telle sorte que tout enfant qui possède une photo ou une vidéo de lui en ligne est désormais en danger, car n’importe quel acteur malveillant pourrait prendre cette photo, puis utiliser ces outils pour la manipuler à sa guise ».

LAION-5B plus accessible publiquement

Depuis décembre dernier, LAION-5B n’est plus accessible publiquement. L’association a pris cette décision car des chercheurs de Stanford ont identifié 3 226 liens vers des images pédocriminelles potentielles. « La plupart d’entre elles ont été identifiées comme telles par des tierces parties » expliquaient-ils.

Dans un communiqué sur son site, LAION affirmait qu’elle appliquait «  une politique de tolérance zéro à l’égard des contenus illégaux et, dans un souci de prudence, nous retirons temporairement les jeux de données de LAION pour nous assurer qu’ils sont sûrs avant de les republier ».

Source : next.ink

Non non ne vous inquiétez pas, on aura jamais de modèle à la chinoise

Yeet Cowboy GIF

On y est

Mes chats se chargent très bien de genre de boulot 🙂

@Raccoon a dit dans Tesla : d’importants actionnaires contre les 56 milliards de dollars pour Elon Musk :

Le fonds souverain de Norvège, le plus important au monde

C’est pas Blackrock Le 1er ?

En tout cas musk doit faire la gueule, passer à côté de 60 milliards ça doit enerver un peu

Comme déjà dit, c’est ce qu’internet est devenu qui s’est barré en fusée.
Me souviens des débuts de facebook ou je trouvais l’idée innocemment géniale. Se partager nos nouvelles entre nous !
Je n’ai pas besoin de vous dire ce qu’on partage finalement.

Après, c’est vrai qu’il existe des espaces plus respectueux ^^
Mais difficile d’organiser une rioule entre nous parce qu’on risquerait de vois débarquer une armée de poulaga.
Nous sommes de vilains pirates qui partageons de la culture.
Inadmissible !!!

C’est devenu une belle merde twitch, ça + les abonnements qui ont augmentés, le nue qui est autorisé vu que ça rapporte, les modos tendance gauchiste du coup c’est pas impartial…

osef le foot 😉

y’a encore des pôv mecs qui vont trinquer Grrrrrrrrrrrrrrrrrrrrr

Depuis le temps qu’on le dit c’est pas des dns fiable, go crypto dns, no logs, pas de censure, choix du pays

Depuis l’été 2023, l’application mobile Carte Vitale est proposée en test dans huit départements : Alpes-Maritimes, Bas-Rhin, Loire-Atlantique, Puy-de-Dôme, Rhône, Saône-et-Loire, Sarthe et Seine-Maritime.

Disponible sur Android et iOS, elle peut désormais être utilisée dans quinze départements supplémentaires : Ain, Allier, Alpes-de-Haute-Provence, Ardèche, Bouches-du-Rhône, Cantal, Drôme, Hautes-Alpes, Haute-Loire, Haute-Savoie, Isère, Loire, Savoie, Var et Vaucluse.

Comme le signalent nos confrères d’iGeneration, les conditions évoluent légèrement. Il faut toujours un smartphone sous Android 7 ou iOS 12 au moins, disposer d’une pièce d’identité en cours de validité et être affilié à un organisme de l’Assurance Maladie, de la MSA ou de la MGEN. Une condition supplémentaire a été ajoutée : avoir ouvert un compte ou un espace assuré sur le site de son organisme d’assurance maladie.

La dernière mouture de l’application est disponible depuis hier et corrige certains problèmes. iGeneration ajoute en revanche que la photo de profil reste extraite automatiquement de la vidéo utilisée pour la reconnaissance faciale et n’est donc « pas toujours flatteuse ».

En outre, l’application semble encore peu prise en charge par les médecins. La version Android permet de présenter sa carte Vitale par code QR ou NFC, quand celle pour iPhone doit se contenter du code QR, en tout cas pour l’instant.

Source : next.ink

https://www.20min.ch/fr/video/technologie-le-chinois-dji-reussit-la-premiere-livraison-par-drone-sur-leverest-103122595

Voilà ça commence, les abus étaient courus d’avance

Ça fait 5 photos par personnes qu’ils ont de nous 😁

Ou alors une vision futuriste de ce que sera l’être humain dans quelques décennies :lol:

En amont des élections législatives européennes, les géants numériques financent les partis libéraux.

Les élections européennes commenceront le 6 juin aux Pays-Bas et se poursuivront jusqu’au 9 juin, mais les géants de la tech sont déjà sur les rangs pour se trouver des soutiens.

Selon les données de l’Autorité pour les partis politiques européens et les fondations politiques européennes, Google, Apple et Microsoft ont tous versé des dons aux principaux think-tanks politiques, voire aux partis politiques européens eux-mêmes. Cumulées, ces dons font de la tech l’industrie qui a le plus contribué en amont des élections parlementaires, relève Politico.

L’alliance des libéraux et démocrates et son think tank, principaux bénéficiaires

Dans le détail, c’est l’Alliance des libéraux et démocrates pour l’Europe (ALDE) et son think tank European Liberal Forum (ELF) qui ont attiré le plus de financement. Microsoft et Qualcomm (via sa branche française) ont respectivement versé 18 000 euros, soit le maximum légal, à l’ALDE. L’ELF a reçu 5 000 euros supplémentaires de Microsoft et 18 000 euros d’Apple et de la branche irlandaise de Google respectivement.

Autre bénéficiaire : le Wilfried Martens Centre du Parti populaire européen (PPE) a reçu 8 000 euros de la branche belge de Google ainsi que d’Intel et d’Apple.

Lobbying par financement

Si ces dons sont parfaitement légaux, ils restent une manière d’influencer le champ politique européen. Divers travaux, dont l’ouvrage The Misinformation Age de Cailin O’Connor et James Weatherall (Yale University, 2019), ont souligné à répétition la propension des grandes entreprises en général – et des géants du numérique en particulier – à influencer la recherche académique et les décisions politiques par la simple orientation de leurs moyens financiers.

Une autre manière de faire, toujours en s’aidant de fonds, consiste à utiliser des relais locaux. En mars, l’association Corporate Europe Observatory regrettait ainsi publiquement que des start-ups européennes comme Mistral AI ou Aleph Alpha aient, chacune, œuvré pour orienter la rédaction de l’AI Act en faveur des intérêts des géants états-uniens.

En amont des élections parlementaires européennes, Corporate Europe Observatory a d’ailleurs publié un guide à destination des candidats aux européennes pour les aider à identifier et manœuvrer le lobbying des grandes entreprises.

Source : next.ink

Entre la génération d’articles qui ne veulent rien dire et de photos/vidéos qui ne ressemblent à rien. L’IA nous pique nos boulots !
C’est cool !!! On va pouvoir rester à la maison à mater les millions d’épisodes de plus belle la vie :edente:

Et bien sûr, les “incidents” ne se sont pas arrêtés en 2019 🙂

De toute façon, Google vend ses données à qui veut payer (même à des escrocs), personne n’est à l’abri.

Vous souhaitez utiliser des outils d’IA sans compromettre votre confidentialité ? Voici comment protéger votre vie privée en utilisant le plus fameux des chatbot. (sans garantie)

0a4f3ff1-240e-462d-8a8a-14a7c4e6f4af-image.png
Dans quelle mesure vos conversations avec ChatGPT sont-elles privées ? Il est difficile de répondre à cette question.

OpenAI affirme que personne ne peut voir vos conversations à moins que vous ne choisissiez spécifiquement de les partager. Cependant, l’entreprise stocke et conserve un historique de vos conversations et reconnaît que leur contenu peut être utilisé pour la formation.

Si vous êtes préoccupé par le respect de votre vie privée lorsque vous utilisez ChatGPT, vous pouvez prendre quelques mesures. Les deux options sont disponibles pour les utilisateurs gratuits et payants - voici comment elles fonctionnent.

Utiliser un chat éphémère

Vous pouvez lancer une discussion temporaire pour des conversations uniques. Ces chats ne seront pas sauvegardés dans votre historique ni utilisés pour l’entraînement au modèle. De plus, ChatGPT ne se souviendra pas de ce dont vous avez discuté. Cependant, OpenAI peut conserver des copies de vos discussions temporaires pendant 30 jours afin de surveiller tout abus.

e8b4c258-d4fd-4bfe-a869-8bcdd14f66e1-image.png

Comment utiliser un chat éphémère ?

Vous pouvez démarrer un chat éphémère dans ChatGPT pour le web ou dans l’application mobile pour iOS ou Android. Dans une nouvelle fenêtre de chat, appuyez sur l’en-tête ChatGPT en haut et sélectionnez l’option Chat éphémère.

L’écran de chat éphémère s’affiche et explique le fonctionnement de l’option.

8bffc5d8-0c19-40e8-9cf3-e29c2f2686a6-image.png
ChatGPT : question en mode chat éphémère. Capture d’écran Moctar KANE/ZDnet France.

Pour quitter le mode temporaire, cliquez sur le titre ChatGPT en haut de la page et désactivez son interrupteur. Dans l’application mobile, démarrez une nouvelle discussion et vous ne serez plus en mode temporaire.

Désactiver l’entraînement au modèle

Vous pouvez également protéger votre vie privée en désactivant l’entraînement du modèle d’OpenAI. Comme vous pourrez toujours accéder à l’historique de vos conversations, cette option est pratique si vous souhaitez consulter et reprendre des conversations antérieures tout en conservant un certain degré de confidentialité sur ce que vous dites.

Comment déactiver l’entraînement au modèle ?

Désactiver l’entraînement au modèle est assez simple et rapide. Sur le site de ChatGPT, cliquez sur l’icône de votre profil en haut à droite et sélectionnez Paramètres. Dans l’application mobile, cliquez sur l’icône du menu hamburger en haut à gauche, puis sélectionnez votre icône de profil en bas.

Dans la fenêtre Paramètres, sélectionnez Gestion des données et désactivez l’option Améliorer le modèle pour tous.

5f3246d6-11ff-433f-b5ef-9111fca96ccb-image.png
ChatGPT : paramètres dont “Améliorer le modèle pour tous”. Capture d’écran Moctar KANE/ZDnet France.

Fermez l’écran de configuration pour revenir à votre chat. Vous pouvez maintenant reprendre vos conversations avec ChatGPT, Open AI n’utilisera plus votre contenu à des fins d’entraînement, et vos chats seront toujours accessibles dans votre liste d’historique.

Source: https://www.zdnet.fr/pratique/chatgpt-comment-limiter-les-donnees-que-vous-partagez-avec-openai-392766.htm

@Indigostar a dit dans D’anciens salariés d’OpenAI et Google demandent un droit d’alerter sur les risques des IA :

Je reste donc perplexe, surtout que l’évolution de l’IA tend vers la capacité de se mettre à jour elle-même et d’ajuster ses algorithmes.

On devrait lui confier la gestion d’un pays imaginaire histoire de voir. :ahah:

ben ça tombe bien, mais la twingo est connectée !

Des humains qui “valident” de l’incitation à la violence ?
narmol !

Le professeur d’économie et auteur Mathias Binswanger déconstruit les belles promesses de la tech

L’intelligence artificielle devrait bientôt nous submerger et révolutionner la société, prédisent certains géants de la tech. L’économiste Mathias Binswanger tempère cette vision qui révèle surtout les enjeux financiers qui se cachent derrière le battage médiatique.

8500cb1b-dfec-4fee-9850-d5d3c2ee2e15-image.png

L’IA est aujourd’hui présentée comme un remède miracle pour pratiquement tous les problèmes économiques: analyser un énorme ensemble de données? ChatGPT le fait en quelques secondes. Communiquer avec des clients et des partenaires en Chine? Un jeu d’enfant grâce aux outils de traduction dopés à l’IA.

L’économie suisse est d’ailleurs à la pointe de la révolution de l’IA! Dans un sondage réalisé par l’agence de placement Manpower, 67% des cadres suisses déclarent que l’IA a une influence positive sur leur travail. 57% des entreprises suisses se considèrent comme des early adopters, c’est-à-dire qu’elles utilisent déjà l’IA dans leur travail quotidien – une augmentation de 27% par rapport à l’année précédente. Et contrairement à ce que l’on pourrait penser, l’étude montre que l’IA n’est pas perçue comme une menace pour l’emploi.

Des attentes élevées envers l’IA en tant que nouveau collaborateur

De son côté, Mathias Binswanger ne voit pas cet engouement pour l’IA d’un très bon œil. L’économiste enseigne à la Haute école spécialisée du Nord-Ouest de la Suisse (FHNW) et vient de publier un livre sur la révolution de l’IA. «Die Verselbstständigung des Kapitalismus» (traduisez «L’autonomisation du capitalisme») fait actuellement partie des best-sellers parmi les livres d’économie, selon Bilanz.

«Nous sommes naïfs en ce qui concerne l’IA», prévient Mathias Binswanger. Par exemple lorsque les entreprises peinent à trouver suffisamment de personnel en raison de la pénurie de main-d’œuvre qualifiée et qu’elles espèrent pouvoir utiliser l’IA comme «main-d’œuvre supplémentaire». «La numérisation et l’IA n’atténueront guère la pénurie de main-d’œuvre qualifiée», rétorque Mathias Binswanger. Certes, on économise effectivement du personnel dans certains domaines. «En revanche, il faut davantage de personnes qui s’y connaissent en technologies numériques ailleurs.» Au final, cela équivaut à un jeu à somme nulle.

Cela signifie aussi que nous ne devons effectivement pas craindre un chômage à grande échelle dû à l’IA. Et si vous pensez que l’IA effectuera des tâches routinières ennuyeuses, nous permettant de consacrer davantage de temps à des tâches plus passionnantes et plus créatives, vos espoirs vont être douchés. Le professeur d’économie Mathias Binswanger estime qu’il s’agit d’un leurre. «Les emplois traditionnellement peu attractifs sont remplacés par de nouveaux emplois qui ont tendance à être également peu attractifs.» Au lieu d’avoir plus de temps pour la créativité, l’IA engendrerait plus de bureaucratie sur le marché du travail. «Des départements entiers de conformité seront créés, des questions de protection des données et de responsabilité se poseront, l’IA renforcera la bureaucratie du contrôle de gestion», prévoit-il.

Les consultants en IA font de bonnes affaires

Une vision moins optimiste que dans les promesses mirobolantes des entreprises de la tech. «Il y a des intérêts économiques évidents derrière le fait de nous présenter les choses comme si l’IA était une sorte de tsunami qui allait nous submerger», explique Mathias Binswanger. «Les entreprises de conseil qui soutiennent les entreprises dans le domaine de l’IA poussent comme des champignons.» Elles font de bonnes affaires en profitant de l’engouement pour l’IA.

De nombreuses entreprises suisses peuvent se permettre d’adopter l’IA. Mais va-t-elle vraiment transformer notre économie à grande vitesse? Mathias Binswanger reste sceptique. «Il y a dix ans, on pensait qu’aujourd’hui, nous serions tous sur la route avec des voitures qui se conduisent toutes seules», rappelle-t-il. Les cryptomonnaies devaient supplanter l’argent traditionnel, le métavers devenir la nouvelle place du marché virtuelle. Ces scénarios ne se sont pas réalisés, malgré le battage médiatique.

Source: https://www.blick.ch/fr/news/tech/nous-sommes-na-fs-en-ce-qui-concerne-lia-le-professeur-deconomie-et-auteur-mathias-binswanger-deconstruit-les-belles-promesses-de-la-tech-id19835170.html