Laissez-vous surveiller : les gouvernements de l'UE sont susceptibles d'approuver ChatControl dès le mois de juin...

[Violence]

… Et ainsi ouvrir la voie à une surveillance de masse que des acteurs comme Signal dénoncent.

Sur la base d’une nouvelle proposition du ministre belge de l’intérieur, les gouvernements de l’UE pourraient finalement approuver le très critiqué règlement sur les abus sexuels sur les enfants (CSAR ou contrôle des chats) dès le mois de juin. C’est ce que révèlent des informations internes divulguées à l’eurodéputé du Parti Pirate et rapporteur fictif Patrick Breyer. Ce serait alors la voir ouverte à une surveillance de masse dont des observateurs estiment qu’elle préfigure du totalitarisme en gestation en Europe.

De façon spécifique, selon la proposition, les utilisateurs d’applications dotées d’une fonction de communication devraient accepter, par le biais de conditions générales ou de messages contextuels, que toutes les images et vidéos envoyées à d’autres personnes soient automatiquement analysées et éventuellement signalées à l’UE et à la police. À cette fin, des portes dérobées de surveillance devraient être intégrées dans les services de messagerie précédemment chiffrés de bout en bout, même si les Belges affirment que le système de « modération de l’upload » qu’ils proposent diffère du « scan côté client » tant critiqué.

Si un utilisateur n’accepte pas que ses photos et vidéos privées soient scannées, il pourra toujours utiliser le service pour envoyer des messages texte, mais ne pourra plus partager d’images et de vidéos. Les algorithmes de scan sont censés signaler les CSAM connus ainsi que les images et vidéos inconnues jugées potentiellement suspectes par l’intelligence artificielle. L’analyse des messages textuels à la recherche d’indices de toilettage, qui n’a pratiquement pas été utilisée jusqu’à présent, serait supprimée du projet de législation, de même que l’analyse des communications audio, qui n’est pas du tout utilisée.

La proposition a déjà fait l’objet d’au moins deux séances de débats au cours du mois qui tirent à son terme. Une adoption aurait comme conséquence de voir des millions de conversations privées et de photos privées de citoyens innocents scannées à l’aide d’une technologie peu fiable, puis divulguées sans que les utilisateurs concernés ne soient liés, même de loin, à des abus sexuels commis sur des enfants. Les photos de nu et celles de famille se retrouveraient entre les mains d’étrangers à qui elles n’appartiennent pas et avec qui elles ne sont pas en sécurité. Ces mesures saperaient le chiffrement de bout en bout précédemment sécurisé afin de transformer les smartphones en espions.

La « modération de l’upload » est plutôt susceptible de renforcer le « scan côté client »

La loi britannique sur la sécurité en ligne contient une disposition controversée, surnommée la « clause espion » par certains organismes de défense des droits numérique. Elle prévoit une obligation des plateformes en ligne utilisant le chiffrement de bout en bout à mettre en place des mécanismes permettant d’identifier et de signaler les CSAM. Le chiffrement de bout en bout garantit que seuls l’expéditeur et le destinataire d’un message peuvent en voir le contenu ; même le fournisseur du service ne peut pas accéder aux données non chiffrées.

Le gouvernement britannique n’a pas précisé la technologie que les plateformes devraient utiliser pour identifier les CSAM envoyés sur les services chiffrés, mais la solution la plus souvent citée est dénommée le scan côté client. Il s’agit d’examiner le contenu du message avant qu’il ne soit envoyé - c’est-à-dire sur l’appareil de l’utilisateur - et de le comparer à une base de données de CSAM hébergée sur un serveur ailleurs. Selon Alan Woodward, professeur invité en cybersécurité à l’Université de Surrey, cela reviendrait à « un logiciel espion approuvé par le gouvernement qui scanne vos images et éventuellement vos [textes] ». L’entrée en vigueur de la « modération de contenu » serait donc un moyen d’obtenir des citoyens de l’UE leur consentement pour se soumettre au scan côté client.

Les conséquences de l’entrée en vigueur de ce projet de loi seraient alors que :

• toutes les conversations en ligne et tous les courriels seront automatiquement fouillés pour détecter tout contenu suspect. Rien ne reste confidentiel ou secret. Il ne sera pas nécessaire d’obtenir une ordonnance du tribunal ou d’avoir un soupçon initial pour effectuer une recherche dans les messages ;
• si un algorithme classe le contenu d’un message comme suspect, les photos privées ou intimes pourront être consultées par le personnel et les sous-traitants de sociétés internationales et les autorités policières. Ces mêmes contenus pourront être consultés par des personnes inconnues ou se retrouver entre les mains d’individus mal intentionnés ;
• les conversations intimes pourront être lues par le personnel et les sous-traitants de sociétés internationales et les autorités policières, car les filtres de reconnaissance de texte qui ciblent la “sollicitation d’enfants” signalent souvent à tort les conversations intimes ;
• des tiers pourront être faussement signalés et faire l’objet d’enquêtes pour diffusion présumée de matériel d’exploitation sexuelle d’enfants. Les algorithmes de contrôle des messages et des chats sont connus pour signaler des photos de vacances tout à fait légales d’enfants sur une plage, par exemple. Selon les autorités de la police fédérale suisse, 86 % de tous les signalements générés par des machines s’avèrent sans fondement ;
• lors d’un voyage à l’étranger, l’on peut se retrouver face à de gros problèmes. Les rapports générés par les machines sur les communications pourront être transmis à d’autres pays, comme les États-Unis, où la confidentialité des données demeure très mal encadrée, ce, avec des résultats incalculables ;
• ce serait la porte ouverte pour les services de renseignement et les pirates sur les conversations et courriels.

Et vous ?

Que pensez-vous de cette multiplication de projets de loi qui menacent les libertés individuelles en Europe ? Vers un espace européen totalitaire ?

– Sources :

https://droit.developpez.com/actu/358449/Laissez-vous-surveiller-les-gouvernements-de-l-UE-sont-susceptibles-d-approuver-ChatControl-des-le-mois-de-juin-et-ainsi-ouvrir-la-voie-a-une-surveillance-de-masse-que-des-acteurs-comme-Signal-denoncent/

[Papawaan]

@Violence a dit dans Laissez-vous surveiller : les gouvernements de l'UE sont susceptibles d'approuver ChatControl dès le mois de juin... :

De façon spécifique, selon la proposition, les utilisateurs d’applications dotées d’une fonction de communication devraient accepter, par le biais de conditions générales ou de messages contextuels, que toutes les images et vidéos envoyées à d’autres personnes soient automatiquement analysées et éventuellement signalées à l’UE et à la police.

Sans vouloir dénigrer, c’est déjà ce que des millions d’utilisateurs de whatsapp font, il suffit juste d’enlever “et éventuellement signalées à l’UE et à la police” parce que dans les conditions générales, ils acceptent de laisser facebook télécharger le contenu de leur appareil (photos, conversations, SMS) et lui accordent une license illimité, internationale et cessible pour que facebook fasse ce que bon lui semble de ces données.
Il semble juste que facebook ne fasse pas de signalements à l’UE et à la police, ils traitent les données pour leur propre compte. Les égoïstes.

[Ashura]

A part ça y’a pas de plans en route, on y arrive tout doucement

[Raccoon]

Autant je suis plutôt satisfait des mesures européennes pour limiter la toute puissance et les abus des GAFAM, même si contraignantes au quotidien, autant là je trouve qu’elle tombe dans l’abus très clairement. Ce n’est pas complètement étonnant, ça va de pair avec la montée générale de l’extrême droite elle-même corrélée avec la baisse du pouvoir d’achat qui ne va pas s’arrêter de sitôt.

Sinon bonne journée, j’ai à faire