L’éditeur suisse Frontiers sous pression après un fiasco dû à l’IA
-
L’éditeur suisse en libre accès Frontiers est blâmé par des scientifiques après la publication d’un article incluant des illustrations incorrectes générées par IA ainsi que des termes mal orthographiés. Un cas qui éclaire d’une lumière crue un modèle d’affaires qui favorise la publication précipitée d’articles scientifiques, sans guère de filet.
C’est un article scientifique publié par l’éditeur suisse Frontiers dans son journal en libre accès Frontiers in Cell and Developmental Biology. Texte mal orthographié, images absurdes générées par une intelligence artificielle (IA), de quoi faire monter chercheuses et chercheurs du monde entier aux barricades.
Une des illustrations en question, où l’on voit un rat affublé d’organes génitaux gigantesques et anatomiquement inexacts, a piqué l’attention de la communauté scientifique au travers des médias sociaux. Des scientifiques ont rendu ces images publiques et mis en cause le processus d’évaluation par les pairs de Frontiers.
Ladite firme a réagi en rétractant le papier en question et remercié la communauté scientifique sur la plateforme X (ex-Twitter) pour avoir pointé ces erreurs, tout en relevant l’importance de la science ouverte pour détecter collectivement les recherches défectueuses. Basé à Lausanne, Frontiers publie des revues scientifiques en libre accès depuis 2007 sur la base d’un modèle d’affaires «pay to publish».
We thank the readers for their scrutiny of our articles: when we get it wrong, the crowdsourcing dynamic of open science means that community feedback helps us to quickly correct the record.
— Frontiers (@FrontiersIn) February 15, 2024Pour que leur article soit publié en libre accès, les auteurs paient des frais qui vont de moins de cent dollars (88 francs) à plus de 9000 dollars (7900 francs). Leur nom de baptême: «articles processing charges» (APC ou frais de traitement des articles).
Ce modèle rivalise avec les revues plus traditionnelles dont l’architecture repose sur le paywall et l’abonnement. Ces éditeurs scientifiques réputés, Elsevier et Springer Nature notamment, contrôlent de longue date l’accès à un savoir scientifique souvent financé par les fonds publics.
Tous deux installés en Suisse, Frontiers et MDPI, qui sont les deux plus grands éditeurs en libre accès de la planète, plaident pour une «science ouverte» et promeuvent des délais d’évaluation et de publication courts. Une approche qui fait craindre à la communauté scientifique que soit sacrifiée la qualité des papiers publiés au profit de la quantité, par souci de rendement financier.
Professeure à l’Université d’Ottawa et spécialiste en matière de modèles de financement APC, Stefanie Haustein a exprimé tout haut ses inquiétudes. «Je crains qu’il ne s’agisse que de la pointe de l’iceberg des fausses informations publiées dans l’unique but de produire rapidement.»
Dans le monde de la recherche, on tremble pour l’avenir de l’intégrité scientifique alors que les éditeurs recourent aux technologies d’IA dans les processus d’évaluation et que les auteurs et autrices s’en servent pour produire textes et images. Selon Stefanie Haustein, l’IA n’est pas la première coupable dans la publication de travaux de faible qualité. Elle apparaît plutôt comme le symptôme d’un système qui presse scientifiques et éditeurs à publier vite et en masse.
Vers une «pseudoscience»Contacté par swissinfo.ch, Frontiers a répondu par courriel aux critiques consécutives à la publication de l’article dans Frontiers in Cell and Developmental Biology. Il s’est agi d’«un incident malheureux et isolé», selon un porte-parole.
Ce n’est pas la première fois cependant que Frontiers se retrouve au centre de l’attention après la parution d’articles à l’intégrité scientifique douteuse. En avril 2023, l’éditeur a sorti un papier incluant des informations non fondées avançant que le port du masque facial pouvait provoquer des symptômes de type Covid. Un article rétracté un mois plus tard après un vaste mouvement de critiques venues de scientifiques et de spécialistes en santé publique.
Un autre article remettant en cause le lien entre VIH et sida a connu le même sort. Cette fois, la maison d’édition a cherché à le reclassifier en article d’opinion avant de décider de son retrait plus de quatre ans après sa publication. Ce cas et d’autres ont incité certains scientifiques à appeler au boycott de Frontiers en raison de ses processus d’évaluation contestables ouvrant sur ce que d’aucuns qualifient de «pseudoscience».
Never submit to or review for a Frontiers journal! This thread exposes the dirt on their review process. They also killed Beall’s list, a quality control tool for publishing. And Frontiers allows pseudoscience, such as a “Neural Thermodynamics” issue I was recently asked for. https://t.co/ncLp5HqX6h
— Wei Ji Ma (@weijima01) August 7, 2021Publier à tout prix
Cela étant, Frontiers souligne présenter les «meilleurs antécédents en matière de qualité dans l’industrie de l’édition», selon les termes de son porte-parole. Lequel allègue que la firme est le troisième des grands éditeurs scientifiques les plus cités, avec des articles consultés et téléchargés des milliards de fois.
Mais selon Stefanie Haustein, le scandale impliquant Frontiers démontre que l’objectif premier des éditeurs en libre accès – diffuser le savoir scientifique pour faire progresser la science – a fait les frais du modèle d’affaires qui le sous-tend. «L’objectif premier n’est pas la publication de travaux scientifiques rigoureux, mais la profitabilité et la croissance», avance-t-elle.
Elle en veut pour preuve que Frontiers facture aux auteurs 2270 dollars (1992 francs) en moyenne pour les articles publiés, ce qui n’incite pas aux refus. Le taux de rejets de l’éditeur est bien plus faible que celui des acteurs traditionnels: 48% contre 71% pour Elsevier, par exemple. Les délais sont quant à eux extrêmement courts. Un auteur peut obtenir une décision finale sur un article soumis pour publication en 61 jours seulement, selon le site web de l’éditeur. En moyenne, le délai parmi les revues est de trois à six mois.
Une analyse a montré aussi que les éditeurs en libre accès recourent toujours plus aux «numéros spéciaux» pour publier l’essentiel de leurs articles. «Par le passé, les ‘numéros spéciaux’ étaient quelque chose de très rare et prestigieux, ils sont désormais employés par Frontiers et MDPI comme modèle de croissance», observe Stefanie Haustein.
En Suisse, la généralisation de cette pratique a incité le Fonds national suisse (FNS) à exclure toute recherche publiée dans un numéro spécial de ses programmes de financement. «Le principe de la publication à tout prix entre en contradiction avec la politique du FNS», déclare un porte-parole dans un courriel adressé à swissinfo.ch.
Recherche et évaluation sous pression
Cette dernière décennie, le nombre d’articles scientifiques publiés a crû de manière exponentielle. Davantage de chercheurs et chercheuses sont en effet en mesure de publier et d’accéder plus librement à plus de recherches. La communauté scientifique en revanche ne s’accroît pas. Résultat, les scientifiques sont supposés écrire, évaluer et éditer des articles – souvent gratuitement – à un rythme jamais vu. Alors que ces derniers tentent d’assumer une charge redoublée de travail pour faire progresser leur carrière, les éditeurs scientifiques accroissent leurs marges bénéficiaires.
Frontiers a tellement grandi qu’elle a pour ainsi dire tiré un trait sur le contrôle éditorial, affirme Adrian Liston, ancien éditeur au sein de la firme et immunologiste australien à l’Université de Cambridge. Ce dernier a quitté Frontiers sur le constat qu’il était devenu quasiment impossible d’y rejeter un article et que certains collègues accéléraient le processus d’évaluation, outrepassant les pairs, pour publier les papiers le plus vite possible et engranger les frais de publication.
C’est ainsi, pense-t-il, qu’un article incluant des images incorrectes générées par une IA a pu être approuvé pour publication, bien que ses auteurs aient clairement signalé avoir recouru à l’IA.
I quit as a Frontiers editor and refuse to review papers for them because of how difficult the journal makes rejecting a paper. You essentially can’t, you can only get stuck in endless reviewing loops. Still shame on everyone involved, but this is what the Frontiers system allows https://t.co/CxEzfYFd6G
— Adrian Liston (@LabListon) February 15, 2024Un combat difficile dans l’édition
Le mésusage d’une IA n’est pas seulement un problème pour les publications en libre accès. Avec l’IA générative désormais sur le marché, capable de rédiger et de produire des images, les scientifiques ne cachent pas leurs craintes qu’il devienne plus aisé encore pour les éditeurs comme les chercheuses et chercheurs de prendre des raccourcis et de frauder. À mesure que la technologie évolue, les personnes impliquées dans le processus d’évaluation peinent à suivre.
«Je pense qu’au sein des universités, on tend à ignorer la puissance des technologies et, souvent, on ne dispose simplement pas des politiques nécessaires», juge Simon Batterbury, professeur d’études environnementales, lui-même éditeur de revues sans but lucratif en libre accès.
Les données fabriquées par l’IA semblent si authentiques qu’il est difficile de les détecter, y compris pour des spécialistes. «Même sur la base de mon expertise et en recourant à un logiciel conçu pour détecter les duplications, je ne peux plus affirmer que telle image ou tel ensemble de données est authentique ou non», confirme Elisabeth Bik, microbiologiste et consultante en intégrité scientifique. Une situation si inquiétante qu’un nombre record de 10’000 articles scientifiques ont été rétractés l’an dernier.
Les éditeurs académiques réagissent en bannissant ou en imposant diverses restrictions au recours à l’IA dans les articles scientifiques. Frontiers accepte pour sa part l’usage d’une IA générative pour la rédaction de manuscrits pour autant que ses auteurs en vérifient l’exactitude et en déclare l’utilisation.
Cet éditeur suisse en libre accès fait partie de ceux qui, dans le cadre de ses processus éditoriaux, recourent à l’IA «pour appuyer, améliorer et accroître les capacités de l’humain à détecter fraude et mauvaises pratiques chez les chercheurs», écrit la firme via courriel. L’IA pourrait ainsi aider les éditeurs à contrecarrer le mésusage de la technologie dans les articles scientifiques.
Mais cela ne garantit en rien que la mauvaise science soit identifiée, comme le montrent les illustrations incorrectes de rat, acceptées par Frontiers. Près de 25’000 scientifiques ont paraphé un document, la San Francisco Declaration on Research Assessment (DORA), qui réclame une solution au problème. Pour eux, il faut cesser de pousser chercheuses et chercheurs à publier le plus d’articles possible. Et tâcher de les faire paraître chez les éditeurs réputés.
«Il s’agit de reconnaître le travail des individus, pas uniquement les revues», plaide Simon Batterbury.
Et là, nous n’en sommes qu’à la première itération de génération de conneries, mais quand la seconde s’appuyera sur ce genre de publication pour en générer d’autres, bonjour les dégâts.
-
Faire “ses devoirs” grâce à l’IA… ça vient de plus en plus…
Bon, faut espérer que certains l’utilisent histoire de faire quelque chose de propre.Plus sérieusement, jvois pas de problèmes de voir des rats aux grosses coucougnettes
-
@Popaul a dit dans L’éditeur suisse Frontiers sous pression après un fiasco dû à l’IA :
Plus sérieusement, jvois pas de problèmes de voir des rats aux grosses coucougnettes
Sur TikTok d’accord, mais dans une revue scientifique ? Le jour où on verra le cerveau situé dans le thorax dans un livre de médecine, je plains, les survivants…
On pourra d’ailleurs se passer de chirurgiens, n’importe qui pourra faire le même boulot en suivant un tuto sur youtube
D’ailleurs, il y a déjà pléthore de médecins autoproclamés sur internet et d’astronomes futés qui ont découvert que la terre était plate.
-
L’être humain devient de plus en plus faignasse aussi bien physiquement qu’intellectuellement…
-
Bon… Z’aviez bien saisi que c’était un trait d’humour, c’est cool
Par contre, la ptite remarque sur le côté flemmard -> C’est une qualité ! C’est souvent en prenant le chemin le plus rapide qu’on arrive aux meilleurs résultats.
Ceci, évidement, si on cherche à faire les choses proprement.Si tu cherche à en faire le moins possible pour sortir un travail de m****, souvent tu te fais gauler. Comme ici.
