Deutsche Forschungsgemeinschaft
Neue Leitlinien für KI in der Begutachtung in Kraft
Schon im Dezember vergangenen Jahres hat der Hauptausschuss der Deutschen Forschungsgemeinschaft (DFG) entschieden, dass der Einsatz von generativer Künstlicher Intelligenz (KI) bei der Begutachtung von Forschungsanträgen unter Einhaltung bestimmter Rahmenbedingungen zulässig sein soll. Diese werden in einer im März 2026 veröffentlichten Leitlinie beschrieben. Mit dem 16. April sind die neuen Regeln nun in Kraft getreten.
Die Leitlinie erlaubt die KI-Nutzung in unterstützender Form und unter den Prinzipien Vertraulichkeit, Transparenz, Qualitätssicherung und Verantwortung. Die menschliche Analyse, wissenschaftliche Einordnung und Empfehlung sollen weiterhin Kernbestandteil der Begutachtung darstellen, so die DFG. Als Beispiele der zulässigen Verwendung von KI-Systemen nennt die Organisation etwa die Recherche einschlägiger Fachliteratur sowie die sprachliche Überarbeitung oder Ausformulierung eigener Textentwürfe. Nicht erlaubt sei es weiterhin, "maßgebliche Teile des Gutachtens automatisch und unreflektiert [...] generieren zu lassen". Mit der Leitlinie sei der rechtskonforme Einsatz von KI-Systemen im Einklang mit der europäischen KI-Verordnung, der Datenschutz-Grundverordnung und dem Urheberrechtsgesetz gewährleistet.
Welchen Prinzipien der KI-Einsatz folgen soll
Prinzip der Vertraulichkeit
Da Förderanträge oft unveröffentlichte Forschungsideen, Daten und methodische Details enthalten, dürfen Antragsinhalte laut DFG nur in Systemen verarbeitet werden, die eine gesicherte und zweckgebundene Nutzung gewährleisten. Daher sei der Einsatz cloudbasierter Systeme ohne vertraglich garantierte Datensicherheit nicht gestattet. Es müsse sichergestellt sein, dass die vertraulichen Inhalte von Förderanträgen nicht unkontrolliert gespeichert oder für andere Zwecke als die Begutachtung verwendet werden. Auch die nachgelagerte Verarbeitung zu Trainingszwecken der KI sei unzulässig.
Prinzip der Transparenz
Die DFG möchte, dass die Nutzung von KI-Systemen bei der Begutachtung offengelegt wird: Gutachterinnen und Gutachter müssen entsprechend beim Einreichen eines Gutachtens angeben, ob sie für dessen Erstellung KI genutzt haben. Eine Kennzeichnung der betroffenen Textpassagen im Gutachten sei allerdings nicht erforderlich.
Prinzip der Qualitätssicherung
Alle KI-generierten Inhalte müssen laut der Leitlinien auf inhaltliche Richtigkeit, Aktualität und mögliche Verzerrungen (Bias) geprüft werden. "Ohne kritische Überprüfung durch einen Menschen ('human control') ist die wissenschaftliche Qualität des Gutachtens sowie die Integrität des DFG-Begutachtungssystems gefährdet", so die DFG.
Prinzip der Verantwortung
Die inhaltliche Verantwortung für das Gutachten bleibt uneingeschränkt bei den Gutachterinnen und Gutachtern, auch wenn Textteile von KI-Systemen erstellt wurden, betont die DFG. "Eine verantwortliche wissenschaftliche Begutachtung erfordert fachliche Kompetenz und wissenschaftsethische Urteilsfähigkeit, die KI-Systeme systembedingt nicht mitbringen." Die Verantwortung dürfe daher nicht übertragen werden.
Erforderliche technische Anpassungen
Gleichzeitig mit dem Inkrafttreten der neuen Regeln sind laut der DFG technische Anpassung in ihrem Antragsbearbeitungssystem elan-Portal notwendig. Nutzerinnen und Nutzer müssen demnach bei ihrer ersten Anmeldung nach dem Inkrafttreten sowohl der Leitlinie als auch den rechtlichen Rahmenbedingungen der KI-Nutzung aktiv zustimmen. Gutachterinnen und Gutachter müssten zudem versichern, dass sie für den Fall des Einsatzes von KI in der Begutachtung über dafür ausreichende KI-Kompetenzen verfügen – dazu gehörten ein grundlegendes Verständnis für die Funktionsweisen von KI-Systemen und ein Bewusstsein für ihre Schwächen, etwa durch die Trainingsdaten verursachte Vorurteile oder Halluzinationen, also inhaltlich falsche Aussagen. Antragstellende müssten der leitlinienkonformen Verarbeitung ihrer Antragsinhalte in KI-Systemen zustimmen.
DFG hatte KI-Nutzung in der Begutachtung zunächst ausgeschlossen
Die nun geltende Leitlinie ist eine Neubewertung der DFG. Im September 2023 hatte die Organisation in einer Stellungnahme die Nutzung von KI in Begutachtungsverfahren zunächst ausgeschlossen. In einem im März 2026 veröffentlichten Whitepaper erläutert sie die Neubewertung zwischen 2023 und 2025.
Ein Grund für die Ermöglichung eines geregelten KI-Einsatzes sei eine zu erwartende Effizienzsteigerung: Gutachterinnen und Gutachter könnten bei der Strukturierung, Literaturrecherche sowie der sprachlichen und formalen Überarbeitung ihrer Texte Unterstützung erhalten und sich dadurch mehr auf die inhaltliche Beurteilung der wissenschaftlichen Qualität konzentrieren. Auch könne die KI-Nutzung Gutachten besser verständlich und vergleichbarer machen – vor allem in mehrsprachigen oder interdisziplinären Kontexten.
Die Neubewertung durch die DFG hatte im Januar kritische Reaktionen einiger Forschender in den Sozialen Medien provoziert: Den Einsatz von KI zuzulassen, entmündige Gutachterinnen und Gutachter und entwerte die deutsche Wissenschaft.
cpy
