Scandale académique : des centaines de milliers d’articles scientifiques auraient été générés par l’IA ?

L'étude, publiée dans la prestigieuse revue Science Advances, a mis au point une méthode d'analyse linguistique extrêmement sophistiquée. Les chercheurs ont identifié 454 mots caractéristiques couramment utilisés par les grands modèles linguistiques (LLM) comme ChatGPT.

Ces mots incluent « recueilli », « englobant », « en plein essor » et de nombreux autres termes qui apparaissent inhabituellement fréquemment dans les textes générés par l’IA.

Appliquée à la base de données PubMed, qui stocke environ 1,5 million d'articles scientifiques chaque année, cette analyse a donné des résultats stupéfiants. Selon une étude du New York Times, au moins 200 000 articles par an contiendraient des traces d'intelligence artificielle.

Cette réalité devient d'autant plus évidente que de nombreux articles scientifiques contiennent de graves erreurs pointant vers l'IA. Subbarao Kambhampati, informaticien à l'Université d'État de l'Arizona, a présenté un cas typique : un article dans le domaine de l'imagerie médicale contenant une réponse claire provenant d'un chatbot.

«

« Je suis désolé, mais je n'ai pas accès aux informations en temps réel ni aux données spécifiques des patients, car je suis un modèle linguistique d'IA. »

Des erreurs plus subtiles, comme l'expression « régénérer la réponse », un terme spécifique à ChatGPT pour les réponses régénératrices, sont apparues dans de nombreuses études. Plus inquiétant encore, certains articles incluent des références totalement inventées ou des images absurdes générées par l'IA.

Face à cette situation, la communauté scientifique est clairement divisée en deux groupes. Si certains auteurs tentent de dissimuler leur utilisation de l'IA en modifiant le langage et en supprimant des mots qui pourraient facilement être qualifiés d'« écrits par l'IA », d'autres font preuve de négligence ou ne se soucient guère de dissimuler leurs origines.

La tendance à dissimuler l’utilisation de l’IA devient de plus en plus sophistiquée, ce qui pose des défis majeurs au maintien de la transparence et de la qualité de la recherche scientifique.

L'équipe a lancé une alerte sévère quant à l'impact potentiel de ce phénomène. Selon son évaluation, si l'utilisation incontrôlée de l'IA dans la rédaction scientifique se poursuit, elle pourrait avoir un impact sans précédent sur la rédaction scientifique en recherche biomédicale, dépassant même l'impact de la pandémie de COVID-19.

Dmitry Kobak, co-auteur de l'étude, a souligné l'importance de maintenir l'authenticité dans la recherche : « Je pense que pour quelque chose d'aussi important que la rédaction d'un résumé de recherche, vous ne devriez pas laisser l'IA le faire à votre place. »