Schriftzug von ChatGPT auf einem Laptop-Bildschirm
mauritius images / Chromorange / Michael Bihlmayer

Hochschulen
Ist ChatGTP ein zulässiges Hilfsmittel in Prüfungen?

Der Chatbot ChatGPT wirft an Unis prüfungsrechtliche Fragen auf. Welchen Rahmen setzt das Urheberrecht? Welche Regeln und Reformen sind denkbar?

ChatGPT ist in aller Munde. Die Hochschulen stellen sich die Frage, ob ihre Prüfungsordnungen noch zeitgemäß und neue Prüfungsformen erforderlich sind. ChatGPT besteht insbesondere im amerikanischen Raum diverse Prüfungen. Währenddessen gehen deutsche Hochschulen ersten Verdachtsfällen bei Prüfungsleistungen nach, die nicht eigenständig, sondern von KI-gestützten Textgeneratoren erstellt worden sind. Zur einfacheren Darstellung wird das bayerische Prüfungsrecht betrachtet, die Erkenntnisse sind jedoch auch auf die anderen Bundesländer übertragbar.

Grundprinzipien von ChatGPT

ChatGPT (kurz für Generative Pre-trained Transformer) ist ein Chatbot (also ein textbasiertes Dialogsystem als Benutzerschnittstelle, welches auf maschinellem Lernen beruht) des US-amerikanischen Unternehmens OpenAI. Dieser seit Ende November 2022 der Weltöffentlichkeit zugänglich gemachte Chatbot erfreute sich in kürzester Zeit einer stark ansteigenden Beliebtheit.

Vereinfacht dargestellt lautet das Grundprinzip des KI-basierten Chatbots: Die Aneinanderreihung von Worten erfolgt nach einem Zufallsprinzip. Jedes nachfolgende Wort wird dadurch ausgewählt, dass es mit den vorherigen Wörtern die größte Passwahrscheinlichkeit aufweist. Daraufhin können Antworten auf Fragen generiert und des Weiteren eine Kommunikation simuliert werden. Im Vergleich zu Modellen anderer Anbieter wurde ChatGPT mit wesentlich mehr Trainingsdaten gefüttert und kann so eine beträchtlich höhere Leistungsstärke vorweisen. Gleichwohl liegt darin auch ein nicht zu vernachlässigendes Charakteristikum von ChatGPT: Der Chatbot kann nur auf die Trainingsdaten zurückgreifen und reproduziert diese, auch wenn zuvor falsche Trainingsdaten mittels des oben erklärten Zufallsprinzips  eingespeist wurden. Die prüfungsrechtliche Relevanz ergibt sich dabei aus der Natur von ChatGPT selbst. So können beispielsweise bereits jetzt kleinere Aufgaben und Fragestellungen vom Chatbot beantwortet und Methodik angelernt werden.

Ist ChatGPT eine zitierfähige (und -pflichtige) Quelle?

Bei der Frage, ob ChatGPT als Quelle zitiert werden muss, muss zunächst geklärt werden, ob es sich dabei überhaupt um eine zitierfähige Quelle handelt. Dabei ist die Frage nach einer Definition für eine zitierfähige Quelle nicht einfach zu beantworten. Als Umkehrschluss für eine entsprechende Definition von zitierfähigen Quellen wird auf das Plagiat als nicht zitierfähige Quelle geschlossen. Herangezogen wird im Folgenden die Plagiatsdefinition von Deborah Weber-Wulff vom 21. Januar 2023 als modifizierte Definition von Teddi Fishmen:

Danach liegt ein Plagiat vor, wenn jemand…

  1. Wörter, Ideen oder Arbeitsergebnisse verwendet,
  2. die einer identifizierbaren Person oder Quelle zugeordnet werden können,
  3. ohne die Übernahme sowie die Quelle in geeigneter Form auszuweisen,
  4. in einem Zusammenhang, in dem zu erwarten ist, dass eine originäre Autorschaft vorliegt,
  5. um einen Nutzen, eine Note oder einen sonstigen Vorteil zu erlangen, der nicht notwendigerweise ein geldwerter sein muss.

Wichtig ist folgende Feststellung: Damit eine Person oder Quelle identifizierbar zugeordnet werden kann, bedarf es der Existenz einer solchen Quelle. Bei der Benutzung von ChatGPT handelt es sich jedoch gerade nicht um eine originäre Quelle, sondern um einen aus anderen Quellen (Trainingsdaten) generierten Text, der als solches aber nicht identifizierbar ist. Insofern findet keine explizite Kopie eines anderen Werkes statt, sodass jedenfalls unter der Anwendung von Plagiatssoftware keine Möglichkeit besteht, einen solchen KI-generierten Text als "Plagiat" zu erkennen.

Daher kann ein Texterzeugnis von ChatGPT weder als Werk im urheberrechtlichen Sinn noch als zu plagiierende Quelle verstanden werden. Folglich handelt es sich bei ChatGPT nicht um eine zitierfähige Quelle, sodass daraus auch keine unmittelbare Zitierpflicht erwächst.

Kann ChatGPT als Hilfsmittel in Prüfungen ausgeschlossen werden?

Im Folgenden wird überblicksartig auf exemplarische Prüfungsordnungen an Hochschulen eingegangen und die entsprechenden Kernpunkte in Bezug auf die Möglichkeiten des Ausschlusses von ChatGPT als Hilfsmittel hervorgehoben. Die bayerische Hilfsmittelbekanntmachung des Justizprüfungsamtes für die Erste Juristische Staatsprüfung sieht etwa vor, dass neben zugelassenen analogen Hilfsmitteln (wie Gesetzestexten und Kalendern) Rechner, Mobiltelefone und sonstige technische Hilfsmittel nicht zugelassen sind. Als technisches Hilfsmittel ist ChatGPT nach dieser Bekanntmachung folglich nicht zugelassen. Ferner gilt für eine Leistungsbewertung die Voraussetzung, dass der "Prüfling die für den Erfolg seiner Prüfung maßgeblichen Leistungen persönlich ohne fremde Hilfe erbringt, soweit dieses nicht im Einzelfall zugelassen ist."

Nach der Prüfungs- und Studienordnung der Ludwig-Maximilians-Universität München für den Masterstudiengang Informatik gilt, dass bei der "Täuschung oder Benutzung nicht zugelassener Hilfsmittel" eine Modulprüfung oder Modulteilprüfung mit "nicht bestanden" beziehungsweise "nicht ausreichend" bewertet wird. Auch insofern wird deutlich, dass die aktuellen Prüfungsordnungen dem Problem der Prüfungsarbeiten mit der Hilfe von ChatGPT zumindest prüfungsrechtlich gewachsen sind. Da ChatGPT als technisches Hilfsmittel nicht explizit zugelassen ist, ergibt sich die Unzulässigkeit der Benutzung desselben.

Zu bedenken ist zudem, dass ein Täuschungsversuch, der nach allen bisher gesichteten Prüfungsordnungen auch jeweils Bestandteil derselben ist, bereits dann vorliegt, wenn über die Eigenständigkeit der Prüfungsleistung oder die Autorenschaft getäuscht wird.

Dies gilt etwa bei Hausarbeiten: Hier kann sich der Täuschungsversuch auch über die Eigenständigkeit und Selbstständigkeit der Bearbeitung ergeben. Gerade Hausarbeiten ist eine Eigenständigkeitserklärung anzuhängen, in der der Prüfling versichert, die Ar­beit eigenständig und ohne unzulässige Hilfsmittel erstellt zu haben. Verstößt der Prüfling gegen die von ihm unterzeichnete Eigenständigkeitserklärung, droht eine Strafbarkeit gem. § 156 StGB wegen falscher Versicherung an Eides Statt.

Ist eine neue Regelung oder Regel­anpassung erforderlich?

Nach Art. 68 Abs. 3 S. 1 BayHIG regelt die Prüfungsordnung die Anforderungen und das Verfahren der Prüfungen an Hochschulen. Bei Klausuren und ähnlichen Prüfungsleistungen könnte man zwar grundsätzlich auf die Idee kommen, vermehrt mündliche Prüfungsleistungen abzufragen und so die Eigenständigkeit der Bearbeitung zu gewährleisten. Eine Lösung für die Prüfungspraxis ist dies jedoch nicht. Wie bereits festgestellt ist jedoch der prüfungsrechtliche Rahmen für Präsenzklausuren klar abgesteckt, zumal sich hier auch die Praktikabilitätsfrage der Benutzung von ChatGPT stellt. Etwas anderes könnte jedoch für Onlineklausuren gelten, wobei innerhalb dieser Kategorie weiter zu unterteilen ist, und zwar in Klausuren, bei denen generell keine Hilfsmittel zugelassen sind, und solche, bei denen eine Bearbeitung mit Hilfsmitteln nicht ausgeschlossen wird (sogenannte Open-Book-Klausuren).

"Der prüfungsrechtliche Rahmen für Präsenzklausuren ist klar abgesteckt."

Zu den "normalen" Onlineklausuren lässt sich insoweit sagen, dass auch hier die Prüfungsordnung Anwendung findet und folglich keine unzulässigen Hilfsmittel verwendet werden können. Je nach Definition beziehungsweise Auslegung findet eine Open-Book-Klausur unter oder ohne Aufsicht statt und hat angepasste Vorgaben zu Hilfsmitteln. Allgemein lässt sich jedoch festhalten, dass eine Änderung der derzeit geltenden Regelungen nicht erforderlich ist.

Eine Besonderheit bei Hausarbeiten und ähnlichen Prüfungen ist die Eigenständigkeitserklärung, die mit der Arbeit abgegeben wird. Einerseits kann diese Erklärung die volle Bandbreite von Hilfsmitteln, darunter auch ChatGPT, erfassen und ausschließen, andererseits kann eine klarstellende explizite Nennung der unzulässigen Hilfsmittel sinnvoll sein. Dabei ist allerdings zu beachten, dass eine solche Praxis nicht ausufern darf, da sonst die Gefahr der regelmäßigen Anpassung an neue einzelne Hilfsmittel besteht.

Folglich könnte die Blaupause um den Einschub "insbesondere nicht mithilfe einer KI-generierten Unterstützung" ergänzt werden. Da die Verallgemeinerung "KI-generierte Unterstützung" auch das Phänomen von ChatGPT sowie weiterer Anbieter und Ausprägungen umfasst, kann diese Kategorie auf andere Eigenständigkeitserklärungen übertragen und muss nicht ständig um weitere Hilfsmittel ergänzt werden. Je nach der praktischen Auswirkung dieses Zusatzes wäre bei einer nicht hinreichenden Beachtung der Eigenständigkeitserklärung auch die Aufnahme von Konsequenzen der Nichtbeachtung (wie beispielsweise die etwaige Strafbarkeit nach § 156 StGB) in Erwägung zu ziehen, um so den strafschärfenden Charakter hervorzuheben und eine Klarstellung hinsichtlich des Erlaubten zu untermauern.

Unter welcher Voraussetzung ist ChatGPT als Hilfsmittel in Prüfungen erlaubt?

Neben der Möglichkeit des Ausschlusses von ChatGPT als Hilfsmittel in Prüfungen stellt sich im Umkehrschluss die Frage, ob ChatGPT auch ausdrücklich als Hilfsmittel erlaubt werden kann oder muss. Ein vollständiger Ausschluss, dessen Einhaltung auch überprüft werden müsste, ist nur dann sinnvoll, wenn den Prüfenden Hilfsmittel zur Erkennung der KI-generierten Texte zur Verfügung stehen.

Wie bereits dargestellt, sind technische Hilfsmittel für das Ablegen von Prüfungsleistungen nicht zu verwenden, soweit diese nicht im Einzelfall zugelassen sind. Dabei ist jedoch zu beachten, dass eine Gewährung von ChatGPT als Hilfsmittel gegen den Grundsatz der Erbringung einer persönlichen und selbstständigen Prüfungsleistung verstoßen könnte, also trotz der Zuhilfenahme des Chatbots eine persönliche, ohne fremde Hilfe erbrachte selbstständige Leistung des Prüflings vorliegen muss. Ein Abweichen von diesem Prüfungsgrundsatz scheint derzeit nicht oder nur schwer möglich. Aus der Eigenständigkeit der Prüfungsleistung folgt, dass diese im Grundsatz eben nicht vollständig an eine KI übertragen werden kann.

"Aus der Eigenständigkeit der Prüfungsleistung folgt, dass diese nicht vollständig an eine KI übertragen werden kann."

Aus dem Gebot der Erbringung einer selbstständigen Prüfungsleistung folgt, dass vorgetäuschte oder erschlichene Leistungen nicht Gegenstand einer zu bewertenden Prüfungsleistung sein können. Wenn die Prüfungsleistung unter Zuhilfenahme von ChatGPT gerade nicht vorgetäuscht oder erschlichen, sondern von Seiten des Prüfungsamtes sowie der durchführenden Prüfer explizit erlaubt sowie vom Prüfling nur in dem dafür vorgesehenen Rahmen und genutzten Umfang erfolgt, liegt jedoch keine Täuschungshandlung vor.

Bei der Ermöglichung von ChatGPT als Hilfsmittel in Prüfungsleistungen gilt es jedoch, auch Folgendes zu beachten: Wie bereits oben erläutert, fußt die Funktionsweise des generativen Sprachmodells auf einem Zufallsprinzip. Daraus folgt, dass gerade im wissenschaftlichen Bereich nicht immer die Sicherheit einer korrekten Antwort gegeben ist, sondern die Antwort vielmehr aus den am wahrscheinlichsten passenden nächsten Worten gebildet wird und gerade kein inhaltlicher Überprüfmechanismus existiert.

Insoweit muss dieses Phänomen bei der Hinzuziehung als Hilfsmittel beachtet werden. Sowohl bei Klausuren als auch bei Hausarbeiten (und jeweils vergleichbaren Prüfungsleistungen) sollten die Prüflinge zumindest über dieses Phänomen aufgeklärt werden beziehungsweise es sollte eine entsprechende explizite Nennung in Form eines Informationsblattes oder Zusatzes auf der Eigenständigkeitserklärung erfolgen.

Vor diesem Hintergrund sollte eine Änderung der bisherigen Regelungen in den Blick genommen werden. Dabei bietet es sich an, länderübergreifend einheitlich vorzugehen, die Eigenständigkeit der Prüfungsleistungen zu wahren, aber auch die Chancen der Technik zu nutzen.

Erste zusammenfassende Einschätzung

ChatGPT stellt im Grundsatz für den Lehrbetrieb insoweit eine Herausforderung dar, dass hier Prüfungsleistungen entgegen dem Grundsatz des Prüfungsrechts und den jeweiligen Prüfungsordnungen nicht selbst- und eigenständig bearbeitet werden. Die Prüfungsordnungen ermöglichen es, bei einem unzulässigen Einsatz von ChatGPT prüfungsrechtliche Sanktionen auszusprechen. Gewisse Rechtsunsicherheiten existieren jedoch. Möchte man ChatGPT als Hilfsmittel anbieten, bedarf es einer Änderung der bestehenden Regelungen, da nach den geltenden eine Täuschung über die Eigenständigkeit oder die Verwendung eines nicht zugelassenen Hilfsmittels bei der Benutzung von ChatGPT bestehen könnte.

ChatGPT an Hochschulen

Generative Sprachmodelle wie der Bot ChatGPT werden an Universitäten aktuell intensiv getestet, angewandt, erörtert, mit Sorge oder auch Zuversicht betrachtet. Welche ethischen Fragen stellen sich bei ChatGPT & Co.? Wie können sie sinnvoll eingesetzt werden, so dass Bildungsprozesse davon profitieren? Das analysieren Hannah Bleher und Professor Matthias Braun in der aktuellen Ausgabe von "Forschung & Lehre".

Forschung & Lehre 4/23 – jetzt lesen!