Last summer, Peter Degen, postdoc en épidémiologie, a reçu une mission absurde de son superviseur : enquêter sur le succès inattendu d’un vieux papier. Publié en 2017, l’article évaluait une méthode statistique bricolée sur des données épidémiologiques. Rien de révolutionnaire. Mais soudain, en 2023, il collectionne des centaines de citations – du jamais-vu pour ce type de recherche. Un rêve pour tout académique ? Non, une infection. Car ces citations venaient non pas de vrais lecteurs, mais de modèles de langage génératifs qui vomissent des références comme une machine à laver en mode essorage.
L’IA fabrique du savoir en carton-pâte
Degen a creusé. Résultat : des dizaines de citations inventées par des chatbots, des LLMs qui hallucinent des sources pour paraître crédibles. Les papiers générés par IA citent allègrement des travaux inexistants ou décontextualisés. Le papier de Degen, lui, est réel – mais il est désormais associé à des travaux qui ne l’ont jamais cité, ou pire, qui le citent de travers. C’est la chasse aux fantômes, version scientifique. Le problème ? Personne ne vérifie. Les revues, déjà débordées, laissent passer. Les modèles, eux, continuent de cracher du contenu, indifférents à la vérité.
Le pognon et la gloire : le true kiff des éditeurs
Qui profite de ce merdier ? Les éditeurs scientifiques, ces vautours qui monétisent chaque citation via des abonnements à 10 000 dollars par an. Les plateformes d’IA, qui gonflent leurs métriques de « pertinence » en arrosant le monde de faux papiers. Et les chercheurs malins, qui boostent leur h-index en glissant des références fantômes dans leurs articles. Le système de citation, censé mesurer l’impact, devient un terrain de jeu pour tricheurs algorithmiques. Les vrais scientifiques, eux, doivent maintenant trier le grain de l’ivraie – un boulot de moine, payé au lance-pierre.
Chercheurs, vous êtes les dindons de la farce
Vous pensez que l’IA « améliore la recherche » ? Regardez les faits : les paper mills et les LLMs ont généré des centaines de milliers d’articles faux ou plagiés rien qu’en 2023. Chaque citation frauduleuse gonfle artificiellement les métriques de revues douteuses, qui vendent ensuite de la « visibilité » à des chercheurs en mal de publication. Pendant ce temps, les critères de promotion restent les mêmes : publier ou périr, même si c’est du vent. Degen a perdu des semaines à démêler ce bazar. Son superviseur, lui, a failli voir son papier bombardé « très cité » par les agences d’évaluation. C’est cela, la « révolution » promise par les startups de l’IA : une pollution citationnelle qui transforme la science en jeu de dupes.
Susanoo News dit stop
Arrêtons de faire comme si c’était un détail. Chaque citation bidon est un vol de temps et de crédibilité. Les chercheurs qui jouent le jeu honnête se retrouvent noyés sous un tsunami de fausses références. Les éditeurs ? Ils encaissent. Les plateformes d’IA ? Elles s’en lavent les mains. Pendant ce temps, la science réelle est mise sous silence par le bruit algorithmique. Alors, messieurs les CEO de l’IA, un conseil : arrêtez de confondre génération de texte et production de connaissance. Ou alors assumez : vous construisez une machine à certifier le vide.