Pour une utilisation responsable de l’IA dans la recherche

© Aurel Märki / SNF

Si l’intelligence artificielle (IA) permet de gagner en efficacité dans la recherche comme dans son encouragement et révolutionne l’acquisition de connaissances, son évolution fulgurante n’est néanmoins pas exempte de risques.

Les chercheuses et chercheurs et les organismes de financement ont de plus en plus souvent recours à des outils basés sur l’intelligence artificielle (IA). Les applications d’IA aident les chercheuses et chercheurs à traiter de grandes quantités de données, à identifier de nouveaux liens et à accomplir plus efficacement des tâches telles que la recherche, le travail rédactionnel ou la traduction. Dans le domaine scientifique, le caractère transformatif de l’IA est susceptible d’exercer une influence sur de nombreuses disciplines.

Conscient du potentiel que recèlent les systèmes basés sur l’IA, le FNS reste cependant attentif aux aspects non résolus et aux risques que comporte leur utilisation. À titre d’exemple, il convient de préserver l’intégrité scientifique et de s’assurer de la traçabilité et de la reproductibilité des résultats obtenus avec l’IA. Ces questionnements font eux-mêmes l’objet de recherches encouragées par le FNS.

Un concept générique

L’intelligence artificielle désigne un large éventail de technologies et de méthodes. Cette notion recouvre notamment des approches et processus qui ont intensément été étudiés durant des décennies tels que l’apprentissage automatique (méthodes statistiques qui identifient les relations entre ensembles de données afin d’établir des prévisions basées sur celles-ci), les réseaux de neurones (approches imitant le fonctionnement du cerveau humain), ou le traitement automatique des langues (analyse et compréhension du langage humain). La simulation de l’intelligence humaine ne constitue qu’un objectif, ou qu’une application, parmi tant d’autres.

À l’heure actuelle, ce sont les technologies d’IA dites génératives qui font beaucoup parler d’elles. Il s’agit d’applications permettant de créer automatiquement de nouveaux contenus tels que des textes, des images et des vidéos à l’aide d’instructions textuelles appelées prompts. Les chercheuses et chercheurs ont également recours à ces méthodes dans diverses disciplines afin d’analyser et de traiter des données, d’identifier des modèles et des relations au sein d’ensembles de données, ou d’effectuer de nombreuses autres tâches.

La responsabilité incombe aux chercheurs·euses et aux évaluatrices·teurs

Le FNS apprécie que les chercheuses et chercheurs exploitent le potentiel de l’IA dans le cadre de leurs travaux. Cependant, quiconque utilise l’IA dans le cadre de ses recherches reste responsable des résultats obtenus et doit respecter les principes d’intégrité scientifique ainsi que la protection de la confidentialité.

Cela vaut également pour les demandes de soutien et leur évaluation : les chercheurs·euses et les évaluatrices·teurs restent responsables des contenus, des appréciations et des décisions élaborés avec l’aide de l’IA.

Le FNS a adapté ses directives à l’intention des évaluatrices·teurs internes et externes. Elles précisent à quelles fins ces personnes sont autorisées à utiliser l’IA et quelles sont les conditions applicables en la matière.

Dans un premier temps, les évaluatrices·teurs doivent se forger leur propre opinion en toute indépendance. Ils/elles évaluent pour ce faire la qualité de la requête et les compétences des requérant·es. L’IA peut par la suite être utilisée en appui, par exemple pour procéder à la révision stylistique du rapport d’expertise ou faciliter la recherche bibliographique. Les évaluatrices·teurs doivent préserver la confidentialité des informations qui leur sont confiées. Ils/elles sont uniquement autorisés à utiliser les outils d’IA dont les paramètres et les options garantissent que les contenus saisis ne seront ni stockés de manière permanente ni utilisés à des fins d’apprentissage. Lorsque les évaluatrices·teurs remettent leurs évaluations, ils/elles doivent indiquer au FNS s’ils/elles ont eu recours à l’IA et de quelle manière.

Liens

  • Le FNS utilise d’ores et déjà deux technologies basées sur de l’intelligence artificielle pour traiter les demandes d’encouragement : le traitement automatique des langues et l’apprentissage automatique. L’équipe Data a ainsi développé une approche spécifiquement conçue pour aider le personnel à attribuer les requêtes à des spécialistes disposant de l’expertise nécessaire. L’application pilote que nous utilisons dans nos activités quotidiennes analyse les similitudes existant entre les projets de recherche et les publications d’expert·es. Le système propose sur cette base de recourir à telle ou tel évaluatrice·teur. Ces propositions sont ensuite examinées par le personnel du FNS qui les adapte le cas échéant.

    Le FNS dialogue également avec d’autres organisations internationales d’encouragement de la recherche pour déterminer quelles solutions d’IA permettraient d’améliorer le traitement des requêtes. Un exemple : le projet GRAIL («Getting Responsible about AI and machine learning in research funding and evaluation») du Research on Research Institute (RoRI). Lancé à la mi-2023, ce projet s’est achevé en 2025 avec la publication d’un guide sur l’utilisation responsable de l’IA dans le cadre du financement de la recherche.

    Liens

  • Année

FAQ

  • Les évaluatrices·teurs externes et les évaluatrices·teurs internes (rapporteur·es) demeurent entièrement responsables de leurs évaluations qui doivent s’appuyer sur leur propre expertise et une lecture attentive de la requête de recherche, ainsi que sur des expertises externes dans le cas des rapporteur·es. Les outils d’IA peuvent uniquement être utilisés à titre d’appui, une fois que les évaluatrices·teurs externes et les rapporteur·es se sont forgé leur propre opinion (préliminaire) après examen de la requête. D’un point de vue pratique : ils/elles sont autorisés à utiliser l’IA pour affiner et approfondir leur propre évaluation, mais ne sont pas autorisés à l’utiliser pour générer tout ou partie de l’évaluation de la requête.

  • Par « utilisation substantielle de l’IA », le FNS entend toute utilisation qui génère des éléments essentiels de l’évaluation – évaluations fondées sur des critères, points forts, points faibles, ou appréciation globale de la requête – sans se fonder sur une réflexion de l’évaluatrice·teur externe ou du/de la rapporteur·e. Il est interdit de générer des parties substantielles d’une évaluation sans que l’expert·e externe ou le/la rapporteur·e ait procédé à une évaluation indépendante. Par exemple, demander à un outil IA de générer l’évaluation complète d’une requête, ou des parties de celle-ci, est considéré comme une utilisation substantielle et n’est pas autorisé.

  • Les utilisations acceptables sont limitées aux tâches d’appui : amélioration de la formulation, traduction, structuration de ses de ses propres notes et/ou de celles des évaluatrices·teurs externes, aide à la recherche bibliographique, affinement, vérification et/ou enrichissement de ses propres notes d’évaluation. Le contenu intellectuel de l’évaluation doit toujours avoir été produit par les expert·es externes et les rapporteur·es.

  • Oui. Toute utilisation d’outils IA dans le cadre de la préparation de l’évaluation, même à titre d’appui conformément aux règles en vigueur, doit être signalée lors de la soumission de l’évaluation.

  • Uniquement si l’outil IA garantit une confidentialité totale, la protection des données et l’impossibilité pour des tiers d’accéder aux données, conformément aux directives d’évaluation du FNS (PDF). L’outil IA ne doit pas utiliser le contenu des documents relatifs à la requête à des fins d’entraînement de modèles ni stocker les données indéfiniment. Par défaut, la plupart des outils d’IA accessibles au grand public ne répondent pas à ces exigences et doivent donc être configurés manuellement.

  • Les outils d’IA hébergés par une institution peuvent être utilisés s’ils répondent à des exigences strictes en matière de confidentialité et de protection des données. Que l’outil IA soit interne ou hébergé par une institution, il ne doit pas utiliser les documents relatifs à la requête pour entraîner des modèles ni stocker les données indéfiniment. Le critère essentiel n’est pas le type d’outil, mais le fait que les données sensibles restent pleinement protégées et soient uniquement accessibles aux évaluatrices·teurs externes et aux rapporteur·es.

  • Oui, s’ils sont conformes aux directives d’évaluation du FNS, les outils d’IA hébergés sans accès à Internet peuvent être utilisés pour des tâches telles que : amélioration de la formulation, traduction, aide à l’analyse bibliographique, peaufinage, enrichissement de ses propres notes d’évaluation, etc. Les évaluatrices·teurs externes et les rapporteur·es demeurent pleinement responsables du résultat.

  • La perte de la propriété intellectuelle de l’évaluation et d’éventuelles violations de la confidentialité constituent les principaux risques. Elles porteraient l’une et l’autre atteinte à l’intégrité du processus d’évaluation.

  • Non. Même si le résultat est révisé par la suite, il est interdit de générer des parties substantielles de l’évaluation à l’aide de l’IA sans qu’une évaluation préalable ait été effectuée par un·e évaluatrice·teur externe ou un·e rapporteur·e (par exemple sous forme de liste à puces). L’évaluation doit rester entièrement sous le contrôle intellectuel des évaluatrices·teurs externes et des rapporteur·es. À titre d’exemple, il est permis d’utiliser l’IA pour affiner et enrichir sa propre évaluation. En revanche, il est interdit d’utiliser l’IA pour élaborer intégralement une évaluation ou certaines de ses parties.

  • Oui, une telle utilisation est autorisée à condition que l’outil IA garantisse une confidentialité totale, la protection des données et l’impossibilité pour des tiers d’ accéder aux données, conformément aux directives d’évaluation du FNS (PDF).

  • Une telle utilisation est autorisée à condition que l’outil IA garantisse une confidentialité totale, la protection des données et l’impossibilité pour des tiers d’ accéder aux données, conformément aux directives d’évaluation du FNS (PDF).

  • Non, ce n’est pas autorisé. L’évaluation doit s’appuyer sur les informations fournies par les requérant·es et les documents mis à disposition par le FNS. Les informations demandées aux requérant·es qui figurent dans les documents officiels présentés font partie intégrante de la procédure d’évaluation.

  • Oui, cela est autorisé à condition que les outils d’IA soient utilisés en appui de l’évaluation réalisée par les évaluatrices·teurs externes et internes et non pour se substituer à leur propre évaluation. Une utilisation légitime de l’IA générative pourrait par exemple consister à demander à l’outil d’IA de rechercher des travaux de recherche déjà publiés en rapport avec les questions soulevées dans la requête soumise.