Fraude scientifique : l’IA rend les faux articles « presque » indétectables

La montée en puissance des outils d’intelligence artificielle permet aujourd’hui aux fraudeurs de produire des articles scientifiques si convaincants qu’ils « ne peuvent pas être reconnus comme faux », selon l’experte Anna Abalkina. Les « usines à articles » passent désormais de la copie d’images volées à la création sur mesure de visuels uniques, compliquant considérablement leur détection par les éditeurs et les outils anti-plagiat. Le phénomène de la fraude scientifique fait peur dans la mesure où il peut provoquer une véritable crise du savoir.


Un phénomène qui s’accélère avec la puissance de l’IA

Ce n’est pas une surprise. Jusqu’ici, les usines à articles produisaient du contenu peu original, repérable grâce à des images réutilisées ou des incohérences flagrantes. L’IA générative a totalement changé la donne :

  • Texte : rédaction automatique d’articles complets, imitant le style académique et intégrant de fausses données plausibles.
  • Images : création à la demande de figures, graphiques et infographies inédites.
  • Attribution : usage abusif de noms de chercheurs légitimes pour donner une crédibilité artificielle.

Selon un rapport de SAGE Publishing, ces techniques permettent à la fraude scientifique de suivre un rythme d’amélioration « comparable à la loi de Moore »  : la qualité et la quantité des faux articles doublent à mesure que les outils se perfectionnent.

Un risque systémique pour l’écosystème scientifique

Le problème dépasse la simple fraude ponctuelle. Les faux articles alimentent désormais les bases de données utilisées pour entraîner les futurs modèles d’IA. Cette « pollution des données » pourrait perpétuer et amplifier la désinformation scientifique, créant un cycle auto-entretenu de fausses connaissances.
Les risques identifiés :

  • Perte de confiance dans la littérature scientifique.
  • Décisions erronées basées sur des données falsifiées.
  • Effet boule de neige dans l’entraînement des modèles IA.

Des revues déjà touchées

Certaines revues ont détecté la publication systématique d’articles fabriqués par l’IA et signés au nom de chercheurs réels, sans leur consentement. Cette fraude, plus difficile à repérer que les plagiats classiques, impose de nouveaux protocoles de vérification : analyse de métadonnées, traçage des images, détection de schémas narratifs récurrents.

Quelles réponses possibles ?

Face à cette crise émergente, plusieurs pistes sont à l’étude :

  • Formation des comités éditoriaux à l’identification des signaux faibles de fraude.
  • Outils de détection IA plus avancés, combinant analyse linguistique, vérification d’images et métadonnées.
  • Renforcement de la revue par les pairs, avec validation des données brutes.
  • Traçabilité : certification de l’origine des images et des jeux de données.

Mais surtout, plus que jamais, le bon vieux réflexe qui consiste à recouper les sources de l’information, les vérifier, les questionner… est d’actualité ! Mais le faites-vous encore aujourd’hui ? Cette introspection est probablement nécessaire pour chacun d’entre nous !

Références

précédent