Neue Regeln für den Einsatz von Künstlicher Intelligenz bei Gutachten
Die KI darf Gutachtende bei der Beurteilung von Fördergesuchen unterstützen, aber nicht ersetzen. Vertrauliche Gesuchsdaten müssen jederzeit geschützt bleiben. Der SNF hat seine Richtlinien entsprechend aktualisiert.
Wer vom SNF einen Förderbeitrag für sein Forschungsprojekt erhalten möchte, muss ein Gesuch um Finanzierung einreichen. Internationale Expertinnen und Experten beurteilen diese Gesuche und erstellen Gutachten. Die Künstliche Intelligenz (KI) kann sie dabei unterstützen – etwa beim Schreiben, Übersetzen oder Recherchieren. Damit die Gutachtenden dieses Potenzial verantwortungsvoll nutzen, hat der SNF seine Richtlinien aktualisiert.
Menschliche Expertise bleibt entscheidend
Als Grundsatz gilt: Gutachtende beurteilen Gesuche auf Basis ihrer persönlichen Expertise und Erfahrung. Die KI kann ihre Arbeit unterstützen, nicht ersetzen.
Zuerst bilden sich die Gutachtenden eine eigene, unabhängige Meinung. Sie beurteilen die Qualität eines Gesuchs und der Fähigkeiten der Gesuchstellenden. Anschliessend kann die KI beispielsweise helfen, das Gutachten sprachlich zu überarbeiten oder bei der Literaturrecherche unterstützen. Die Verantwortung für die Bewertung tragen die Gutachtenden alleine.
Vertraulichkeit und Datenschutz
Fördergesuche enthalten neue Ideen der Gesuchstellenden und sind ihr geistiges Eigentum. Die Gutachtenden müssen diese Inhalte vertraulich behandeln.
Der SNF schreibt internationalen Gutachtenden keine KI-Werkzeuge vor. Sie müssen jedoch durch technische oder rechtliche Massnahmen sicherstellen, dass Inhalte aus Fördergesuchen nicht weiterverwendet werden. Etwa um KI-Modelle zu trainieren und damit die Inhalte für Dritte zugänglich zu machen.
Setzen die Gutachtenden KI Werkzeug ein, prüfen sie deren Einstellungen und wählen Optionen, die eingegebene Inhalte weder dauerhaft speichern noch für Trainingszwecke verwenden. Beim Einreichen ihrer Bewertungen müssen die Gutachtenden den Einsatz von KI gegenüber dem SNF offenlegen.
Regeln werden laufend überprüft
Künstliche Intelligenz entwickelt sich schnell weiter und damit auch ihre Einsatzmöglichkeiten in Forschung und Evaluation. Der SNF beobachtet diese Entwicklung aufmerksam und überprüft seine Regeln laufend, um auf neue Möglichkeiten und Risiken zu reagieren.
Evaluationsverfahren bleibt unverändert
Über die Förderung eines Gesuchs entscheidet nie ein einzelnes Gutachten und auch keine Künstliche Intelligenz. Der SNF stützt sich weiterhin auf mindestens zwei externe Gutachten. Mitglieder des zuständigen Evaluationsgremiums prüfen diese und bilden sich ihre eigene Meinung. Anschliessend diskutiert das Evaluationsgremium das Gesuch und entscheidet über die Finanzierung. So stellt der SNF sicher, dass die Entscheidungen weiterhin auf menschlicher Expertise und Verantwortung beruhen.