Nouvelles règles sur à l’utilisation de l’intelligence artificielle dans les expertises
L’IA peut aider les expert·es dans l’évaluation des requêtes, mais ne doit pas se substituer à eux. Les données confidentielles doivent rester protégées à tout moment. Le FNS a mis à jour ses directives en la matière.
Toute personne souhaitant obtenir un subside du FNS pour son projet de recherche doit déposer une demande de financement. Des expert·es internationaux évaluent ces requêtes et rédigent une expertise. L’intelligence artificielle (IA) peut les y aider ; par exemple pour rédiger, traduire ou effectuer des recherches. Le FNS a mis à jour ses directives pour les évaluatrices·teurs externes et internes exploitent ce potentiel de manière responsable.
L’expertise humaine reste déterminante
Le principe suivant s’applique : ce sont les expert·es qui évaluent les requêtes en se fondant sur leur expertise et leur expérience personnelles. L’IA peut leur faciliter le travail, mais pas les remplacer.
Dans un premier temps, les expert·es doivent se forger leur propre opinion, en toute indépendance. Ils évaluent la qualité d’une requête ainsi que les compétences des candidat·es. Par la suite, l’IA peut, par exemple, les aider à réviser leur expertise sur le plan linguistique ou à effectuer des recherches documentaires. La responsabilité de l’évaluation incombe exclusivement aux expert·es.
Confidentialité et protection des données
Les demandes de subsides reflètent les idées originales des requérant·es et sont leur propriété intellectuelle. Les expert·es doivent donc traiter ces informations de manière confidentielle.
Le FNS n’impose pas d’outils d’IA aux expert·es internationaux. En cas d’utilisation, ils et elles doivent toutefois prendre des mesures techniques ou juridiques afin que les contenus des demandes de subsides ne soient pas réutilisés, par exemple, pour entraîner des modèles d’IA. Cela signifierait que ces contenus sont accessibles à des tiers.
Lorsque les expert·es utilisent un outil d’IA, ils doivent vérifier ses paramètres et choisir des options qui ne permettent ni le stockage permanent des contenus saisis, ni leur utilisation à des fins d’entraînement. En soumettant leurs évaluations, les expert·es doivent signaler au FNS s’ils ou elles ont eu recours à l’IA.
Les règles font l’objet d’une révision constante
L’intelligence artificielle évolue rapidement, tout comme ses applications dans les domaines de la recherche et de l’évaluation. Le FNS suit cette évolution de près et réexamine régulièrement ses règles afin de les adapter aux nouvelles opportunités et aux nouveaux risques.
La procédure d’évaluation reste inchangée
La décision d’accorder ou non un subside ne repose jamais sur l’avis d’un·e seul·e expert·e, ni sur l’intelligence artificielle. Le FNS continue de s’appuyer sur au moins deux expertises externes. Les membres du panel d’évaluation les examinent et se forgent leur propre opinion. Le panel examine ensuite la requête et se prononce sur son financement. Le FNS veille ainsi à ce que les décisions continuent de reposer sur l’expertise et la responsabilité humaines.