Europäischer Forschungsrat
ERC entwickelt Richtlinien zu KI-Nutzung in Evaluationen

Evaluierende dürfen KI zur sprachlichen Verbesserung ihrer Berichte nutzen. Für die fachliche Einschätzung sind sie weiter persönlich verantwortlich.

Der Europäische Forschungsrat (ERC) hat Richtlinien zur Nutzung von Künstlicher Intelligenz (KI) in der Begutachtung von Förderanträgen ausgearbeitet. Das geht aus einer Pressemitteilung des ERC vom 24. März hervor. Demnach dürfen Gutachterinnen und Gutachter KI nutzen, um ihre Berichte zu übersetzen oder sprachlich zu verbessern. Ebenso könnten allgemeine Informationen rund um das Thema des Antrags eingeholt werden.

KI dürfe allerdings nicht genutzt werden, um grundlegende Arbeitsprozesse der Begutachtung zu beschleunigen, wie das Zusammenfassen des Antrags oder das Verfassen eines Berichtsentwurfs. Den Förderantrag sowie dessen wissenschaftlichen Wert zu verstehen und zu beurteilen gehöre zu den Kernaufgaben der wissenschaftlichen Begutachtung und könne nicht an Dritte – auch nicht an eine KI – ausgelagert werden, heißt es in den Richtlinien.

Keinesfalls seien Anträge, Teile davon oder persönliche Daten der Antragstellenden in ein Online-KI-Tool zu laden. Auch die schriftliche Ausarbeitung des Gutachtens auf Grundlage selbst entwickelter Gedanken dürfe nur mit KI erfolgen, wenn es sich dabei um eine sichere und lokale Anwendung handele. "Vorzugsweise ist der Bericht jedoch in seiner ursprünglichen Form zu belassen, da der Inhalt wichtiger ist als seine Darstellung", betont der ERC.

Die Richtlinien orientieren sich somit an zwei Grundprinzipien im Umgang mit KI, die der ERC bereits 2023 in einer Positionierung deutlich gemacht hat: Die Bewertungsaufgaben von Gutachterinnen und Gutachtern können nicht ausgelagert werden. Die Vertraulichkeit der Begutachtung und der Schutz persönlicher Daten müssen gewahrt sein.

hae