Des ados espagnoles victimes de deepfakes pornographiques
-
Une terrible affaire de deepfakes pornographiques secoue le village espagnol d’Almendralejo. Dernièrement, plusieurs adolescentes ont reçu de fausses photos d’elles nues, parfois accompagnées de chantage. Selon le journal El País, au moins 20 victimes sont à déplorer, âgées de 11 à 17 ans. Un nombre qui risque encore d’augmenter. “Ce sont des pratiques barbares”, dénonce la mère de l’une des ces jeunes filles.
Les faits ont été signalés mardi dernier, peu après la rentrée scolaire en Espagne. Isabel, une adolescente de 14 ans, remarque qu’il y avait beaucoup d’agitation dans la cour de récréation et que des photos d’élèves nus circulent sur des téléphones portables. Un garçon s’approche ensuite d’elle pour lui dire qu’il vient de la voir nue.
“J’ai peur”Le jour même, la jeune fille en informe sa mère, Sara. “Maman, ils disent qu’il y a une photo de moi nue. Apparemment, ils l’ont créée eux-mêmes avec une intelligence artificielle. Certaines filles ont déjà vu cette photo, j’ai peur”, peut-on lire dans son message.
Depuis, 20 victimes se seraient déjà manifestées. La chaîne de télévision Telecinco en cite même 30.
Certaines photos se sont retrouvées sur OnlyFans ou sur des sites pornographiques, et au moins une fille a été victime de chantage. L’adolescente devait donner de l’argent, sous peine de voir sa photo rendue publique.
Les auteurs auraient utilisé une application controversée qui permet de créer une photo de nue d’une personne pour une dizaine d’euros. Il suffit d’utiliser un cliché sur lequel la personne est de préférence seule et peu vêtue, et la technologie fait le reste. Les images ont été volées sur des profils Instagram. Dans un cas, l’auteur a lui-même pris une photo de sa victime lors d’un entraînement de volley-ball.
“Ils ne se rendent pas compte de ce qu’ils font”Les mères des jeunes filles concernées par ces “deepfakes” se sont réunies au sein d’un groupe WhatsApp. L’une d’entre elles, la gynécologue Miriam Al Adib, se fait leur porte-parole. “Le résultat final est si réaliste que j’ai dû y regarder à deux fois. Heureusement, je connais le corps de ma fille. Les auteurs ne se rendent pas compte de ce qu’ils font, ce sont des pratiques barbares.”
Elle appelle également les autres victimes à dénoncer le crime. “Les filles, n’ayez pas peur d’en parler à votre mère. C’est la seule façon de mettre fin à cette situation.”
Quatre des cinq établissements de l’enseignement secondaire d’Almendralejo, dans le sud-ouest de l’Espagne, semblent être visés pour le moment. La police a déjà pu identifier plusieurs suspects, qui sont tous mineurs. Certains se sont avérés être des camarades de classe des victimes.
Plus de détails: https://fr.euronews.com/next/2023/09/20/des-adolescents-espagnols-ont-recu-des-nus-deux-memes-generes-par-lia-sagit-il-dun-crime
-
Ca commence les conneries, faudra-t-il des morts pour qu’on fasse des règlements stricts sur l’utilisation de l’IA. Je suis pour une pénalisation dure avec circonstances aggravantes pour utilisation de l’IA dans le but de nuire, c’est sans nul doute un crime.
-
grave, il faut être sans pitié, quelque soit l’âge du délinquant
-
Les autorités répètent à qui mieux mieux que les mineurs sont, le plus souvent, protéger des retombées de leurs actes, alors on les retrouve dans les délits de vols divers, y compris de voiture et de trafiques puisqu’ils ne craignent pas grand chose. Comment est on étonné qu’il y ait des mineurs qui fassent de rançonnage?
@Mister158, ce ne sont pas des délinquants, ce sont des mineurs. Les autorités nous en disent qu’ils ne savent pas ce qu’ils font. L’Espagne nous ressemble beaucoup sur ce sujet et, malheureusement, dans les problèmes de harcèlements et de violence à l’école, on remarque qu’il y a peu de coupables et beaucoup de victimes. -
11 a 17 ans putain les charognes
-
Alors non, le problème n’est pas l’IA.
Y’en a un plutôt technique certes lié à cette techno naissante : les sociétés qui proposent des services de ce type devraient mettre en place un filtrage des contenus juvéniles.
Le hic c’est que c’est ce qui est recherché/envoyé, donc leur fond de commerce.Le 2nd problème, prépondérant selon moi, c’est tout simplement généralement le rapport à la nudité et au sexe dans notre société. Et le manque d’éducation d’une partie des hommes. Les jeunes découvrent le sexe grâce au porno (tous rasés, tous les trous, cim/cif et surtout tenir 56 minutes avec une teub de cheval etc), on peut pas dire que ce soit la réalité de tous les couples, tous les jours et à tous les âges.
Ensuite, y’a un paquet de filles qui font du pognon impunément (mais elles ont raison, personne ne dit rien) en se montrant moulées dans les sens ou à poil, gratuitement ou contre abonnement.
Dans tous les cas je pense que le message est erroné.
Ma réflexion fait sans doute “vieux con” (je suis né dans les années 70) mais nos amis plus jeunes avec enfants semblent partager ces notions et éduquer au mieux leurs filles & garçons dans le respect et la réalité. -
@Aerya , Avocat de la défense ?
Un “vrai” vieux con ( année 50 ) te le dis, dédouaner les auteurs de ces pratiques n’est pas la solution, aucune excuse, et au même titre ceux qui leur donnent les moyens de le faire.
La vente libre des couteaux n’a jamais excusé ceux qui poignardent.
En plus, soit plus clair dans ta démarche, ce n’est pas évident de savoir ce que tu penses.
Et si, l’IA est le problème si on permet son utilisation sans contrôle.Je pratique l'autodérision, j'ai donc acheté une voiture ridicule
-
année 58, je ne ferais aucune différence entre un ado et un adulte, les deux peuvent faire autant de mal !
-
année 58, je ne ferais aucune différence entre un ado et un adulte, les deux peuvent faire autant de mal !
@Mister158 a dit dans Des ados espagnoles victimes de deepfakes pornographiques :
année 58
Ahhhhh 1958!
-
@Aerya , Avocat de la défense ?
Un “vrai” vieux con ( année 50 ) te le dis, dédouaner les auteurs de ces pratiques n’est pas la solution, aucune excuse, et au même titre ceux qui leur donnent les moyens de le faire.
La vente libre des couteaux n’a jamais excusé ceux qui poignardent.
En plus, soit plus clair dans ta démarche, ce n’est pas évident de savoir ce que tu penses.
Et si, l’IA est le problème si on permet son utilisation sans contrôle.@El-Bbz Je suis contre la censure de l’évolution de l’IA.
Tout comme ton exemple des couteaux, que je partage à 100%, il ne me semble pas opportun de mettre ça sur le dos de l’IA mais plutôt des sociétés qui ne l’utilisent QUE pour dénuder des personnes en photos (hommes ou femmes). Et donc, pour être plus clair : je préfère que la justice se retourne contre une société que de penser à réguler un outil.Pour le reste, je constate qu’il est dans les mœurs de montrer son cul ou plus partout où on le peut et que ça se regarde facilement sur n’importe quel réseau social ou autre. Et je trouve ça dommage.
Archlinux fanboy | rClone & datahoarder | https://upandclear.org
-
@El-Bbz Je suis contre la censure de l’évolution de l’IA.
Tout comme ton exemple des couteaux, que je partage à 100%, il ne me semble pas opportun de mettre ça sur le dos de l’IA mais plutôt des sociétés qui ne l’utilisent QUE pour dénuder des personnes en photos (hommes ou femmes). Et donc, pour être plus clair : je préfère que la justice se retourne contre une société que de penser à réguler un outil.Pour le reste, je constate qu’il est dans les mœurs de montrer son cul ou plus partout où on le peut et que ça se regarde facilement sur n’importe quel réseau social ou autre. Et je trouve ça dommage.
@Aerya a dit dans Des ados espagnoles victimes de deepfakes pornographiques :
Je suis contre la censure de l’évolution de l’IA.
Je suis d’accord sur ton idée, mais mon premier souci, et pas que le mien ici, c’est que tu ne semble pas porter attention à ce qui devrait advenir des utilisateurs finaux, genre les petits connards (pas que non plus) qui se servent des possibilités offertes par “ces sociétés” qui sont à ton avis les responsables. Mais pas les seuls.
Les sanctions doivent être lourdes quelque soit l’âge des auteurs.
Pour la régulation, ok, laissons évoluer la techno, mais restons prudents quand même, la liberté a et a toujours eu un prix.Je reconnais que ma dernière phrase au #7 n’est pas vraiment bien formulée.
-
L’ IA, voilà encore une belle invention à la con
Mais comment a t-on pu vivre jusqu’ici sans elle ? On se le demande
Hello! It looks like you're interested in this conversation, but you don't have an account yet.
Getting fed up of having to scroll through the same posts each visit? When you register for an account, you'll always come back to exactly where you were before, and choose to be notified of new replies (either via email, or push notification). You'll also be able to save bookmarks and upvote posts to show your appreciation to other community members.
With your input, this post could be even better 💗
S'inscrire Se connecter