Künstliche Intelligenz
DFG-Leitlinien zum Einsatz von ChatGPT und KI

Im Antrag ja, im Gutachten nein: So stellt sich die Deutsche Forschungsgemeinschaft in Zukunft den Umgang mit Künstlicher Intelligenz vor.

Die Deutsche Forschungsgemeinschaft (DFG) hat erstmals Leitlinien für den Umgang mit generativen KI-Modellen für die Text- und Bilderstellung veröffentlicht. In einer aktuellen Stellungnahme des Präsidiums der DFG werden die Auswirkungen von KI-Technologien, insbesondere von ChatGPT und ähnlichen generativen Modellen, auf die Wissenschaft und die Förderaktivitäten der DFG beleuchtet.

"Als Ausgangspunkt einer kontinuierlichen Begleitung soll das Papier sowohl Wissenschaftlerinnen und Wissenschaftlern in ihrer Arbeit als auch Antragstellenden bei der DFG sowie den am Begutachtungs-, Bewertungs- und Entscheidungsprozess beteiligten Personen eine Orientierung bieten", heißt es in der Stellungnahme.

Das DFG-Präsidium ist der Ansicht, dass KI-Technologien bereits jetzt erhebliche Veränderungen im wissenschaftlichen Prozess bewirken und in verschiedenen Disziplinen vielfältig, wenn auch in unterschiedlicher Weise, eingesetzt werden. Insbesondere im Bereich der generativen Modelle zur Text- und Bilderstellung stünde man jedoch erst am Anfang dieser Entwicklung.

DFG: ChatGPT und AI bieten Chancen

Die DFG betont in ihrer Stellungnahme, dass der Einsatz von KI-Modellen im wissenschaftlichen Arbeiten nicht ausgeschlossen werden sollte, da er erhebliche Chancen und Potenziale bietet. Gleichzeitig unterstreicht sie die Notwendigkeit verbindlicher Rahmenbedingungen. Hierbei sollen die etablierten Standards guter wissenschaftlicher Praxis als Grundlage dienen.

Die DFG legt in ihren Leitlinien fest, dass Forscherinnen und Forscher in ihren Veröffentlichungen transparent offenlegen sollen, ob und in welchem Umfang sie Methoden der KI für ihre Forschungsarbeiten eingesetzt haben. Dies gilt auch für Förderanträge bei der DFG. Weiterhin dürfen außerdem nur natürliche Personen als Autorinnen oder Autoren von wissenschaftlicher Forschung auftreten. Diese müssen sicherstellen, dass durch die Verwendung generativer Modelle kein geistiges Eigentum Dritter verletzt wird und kein wissenschaftliches Fehlverhalten oder Plagiate entstehen.

Der Einsatz von KI-Modellen ist bei Förderanträgen an die DFG gemäß den Prinzipien der Leitlinien zulässig. Hingegen wird der Einsatz dieser Modelle bei der Erstellung von Gutachten aufgrund der Vertraulichkeit des Begutachtungsverfahrens als unzulässig erklärt. Unterlagen, die zur Begutachtung bereitgestellt werden, dürfen insbesondere nicht als Input für generative Modelle verwendet werden.

cle