#3 Les coulisse de l’édition scientifique : l’IA

Christophe Claramunt (directeur ISblue, École Navale) est éditeur associé pour l’International Journal of Geographical Information Science (IJGIS) et Anne Marie Tréguier (LOPS, CNRS) est co-rédactrice en chef de la revue Ocean Science de l’European Geosciences Union (EGU), une publication en libre accès à but non lucratif. Tous les deux ont échangé avec la vingtaine de participants présents le 25 juin au PNBI sur les avancées rapides de l’intelligence artificielle générative et de leurs conséquences pour la recherche scientifique et la publication.

Les intervenants présentent les politiques “IA” de leurs revues. L’IA ne peut pas être auteur ou co-auteur d’un article. Les usages “assistance” de l’IA sont autorisés (grammaire, aide à la mise en forme, etc). Tout usage de l’IA en mode “génératif” doit être déclaré par l’auteur, par exemple lorsque l’IA est utilisée pour générer une figure ou du code. Les éditeurs et les reviewers ne doivent pas transmettre un manuscrit soumis pour publication à une I.A. (problème de confidentialité). Les reviews ne doivent pas être effectuées par l’I.A. Les politiques des journaux semblent toutes assez similaires, avec l’exception de “frontiers” qui a développé une IA propriétaire et encourage son utilisation par les éditeurs et les reviewers.

Les impacts de l’IA sur le monde de l’édition scientifique sont multiples :

• Augmentation du nombre de soumissions car l’IA accélère l’écriture des articles
• Amélioration considérable de la qualité rédactionnelle des articles soumis par les pays non-anglophones tels que la Chine ou des pays émergents. Dans ce cas l’I.A. a un effet bénéfique de réduction des inégalités entre communautés scientifiques, bien qu’on puisse craindre une uniformisation des styles de rédaction.
• Reviews effectuées par l’IA : parfois on peut les détecter si la revue est renvoyée trop rapidement, mais le système n’a pas encore de mesures permettant de sanctionner ce comportement de certains reviewers. 
• On voit apparaître dans certaines publications des indices d’utilisation de l’IA qui peuvent parfois conduire à la rétractation (dé-publication) d’articles. l’IA peut inventer des références, par exemple des articles fictifs avec des noms d’auteurs réels. 

Christophe Claramunt souligne que les modèles d’IA sont désormais capables non seulement de générer du texte, mais aussi de produire du code informatique et d’effectuer des raisonnements de plus en plus complexes. Ces systèmes sont déjà capables de traiter des informations multimodales, notamment visuelles, et sont en mesure de raisonner: par exemple, analyser une photographie d’une salle pour identifier la position des personnes, détecter des groupes ou identifier des interactions entre individus. Les capacités de raisonnement de ces outils progressent et ouvrent des nouveaux champs de traitement de données complexes. Alors qu’il y a encore un an, ils étaient considérés comme incapables de raisonner ou de produire des idées nouvelles, ils franchissent désormais progressivement cette limite et ouvrent de nouveaux champs de possibilités.

Cette évolution soulève plusieurs interrogations. L’utilisation croissante de l’IA risque-t-elle d’appauvrir la créativité humaine ou de modifier notre manière de raisonner ? Dans le domaine de la recherche, certains craignent que les scientifiques, et en particulier les doctorants, deviennent de plus en plus dépendant d’une IA qui proposerait les expériences à réaliser, les mesures à effectuer ou les pistes de recherche à explorer avec un impact certain sur les productions scientifiques.

Anne Marie Tréguier apporte un point de vue plus nuancé en s’appuyant sur la position du Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC).

Selon cette institution, l’IA ne peut pas se substituer à l’expertise scientifique humaine pour plusieurs raisons. Elle est incapable d’attribuer un niveau de confiance aux résultats scientifiques, car elle ne peut pas en assumer la responsabilité. Elle ne peut pas non plus arbitrer des questions qui relèvent de valeurs, de choix politiques ou sociétaux, dimensions essentielles lorsqu’il s’agit de traduire les connaissances scientifiques en recommandations pour les décideurs. Enfin, les systèmes d’IA ne garantissent ni leur propre transparence ni leur responsabilité. Contrairement aux chercheurs ou aux experts humains, ils ne peuvent être tenus responsables de leurs décisions ou de leurs erreurs.

Les échanges rappellent ainsi que, malgré des progrès spectaculaires et un potentiel croissant pour assister les chercheurs, l’intelligence artificielle demeure un outil d’aide à la décision. Le jugement scientifique, l’évaluation critique, la prise en compte des valeurs et la responsabilité des résultats restent des compétences fondamentalement humaines.