Die Abkürzung "KI" für Künstliche Intelligenz ist in großen, schwarzen Buchstaben auf einer Computertastatur zu sehen.
picture alliance / CHROMORANGE | Christian Ohde
Beliebt

Europäische Verordnung
Erste Vorgaben zum Einsatz von KI greifen

Ab Februar greifen die ersten Vorgaben der europäischen KI-Verordnung. Was Hochschulangehörige beachten müssen.

20.01.2025

--

Ab dem 2. Februar greifen die ersten Vorgaben der europäischen KI-Verordnung (KI-VO), auch als AI Act (Artificial Intelligence Act) bezeichnet. Die Verordnung soll einen einheitlichen Rechtsrahmen für die Entwicklung und den Einsatz von Künstlicher Intelligenz (KI) innerhalb der Europäischen Union (EU) schaffen. Rolf Schwartmann, Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit (GDD) und Sachverständiger für IT- und Datenrecht beim Deutschen Hochschulverband (DHV), erklärt, was es für Hochschulleitungen sowie einzelne Wissenschaftlerinnen und Wissenschaftler zu beachten gilt.

Verpflichtungen für Hochschulleitungen

KI-Kompetenz und Lizenzierung von Software

Hochschulleitungen müssen ab Februar sicherstellen, dass all diejenigen, die in ihrem Auftrag KI einsetzen, "KI kompetent" sind, sagt der Datenschutzrechtler der Technischen Hochschule (TH) Köln. Sie müssen dafür sorgen, dass Beschäftigte und Studierende "rechtlich und technisch einschätzen können, was es bedeutet, KI einzusetzen".

Konkret bedeutet das, dass Hochschulangehörigen Antworten auf Fragen wie diese bekommen: Was ist ein KI-System im Sinne der KI-VO? Für wen gilt das KI-Recht? Welche Besonderheiten gelten für Hochschulen als öffentliche Stellen bei der Verwendung von KI? Wann ist KI erlaubt, aber hochriskant? Woran lassen sich hochriskante Anwendungen erkennen? Unter welchen Bedingungen darf hochriskante KI konkret verwendet werden? Wann ist KI verboten? 

"Sofern Hochschulen den Einsatz von KI offiziell gestatten, müssen sie dafür Sorge tragen, dass dienstlich nur lizenzierte Software zum Einsatz kommt", sagt Schwartmann weiter. Die Erlaubnis, Hochschulangehörige auch private Software nutzen zu lassen, hält er für problematisch: "Setzen Studierende unterschiedliche privat angeschaffte KI-Software ein, kann das Erfordernis der Chancengleichheit zum Problem werden." Da Leistungsumfang und Qualität der auf dem Markt zugänglichen Software verschieden sein könnten, seien dieselben technischen Voraussetzungen für alle Studierenden kaum noch gegeben. 

Verbotene KI-Praktiken und der Einsatz hochriskanter KI

Hochschulen müssen ab Februar außerdem darauf achten, dass sie keine verbotenen KI-Praktiken ausüben. Dazu zählt beispielweise der Einsatz von KI, um die Emotionen einer Person zu erfassen. Das ist laut Schwartmann etwa der Fall, wenn Hochschulen vor oder bei einer Online-Klausur mithilfe von KI analysieren wollen, ob einzelne Studierende unter Prüfungsangst litten. Gleiches gelte, wenn die Zufriedenheit der Beschäftigten mittels KI-Tools überprüft werden soll. 

Auch der Einsatz von hochriskanter KI unterliegt besonderen Vorgaben. Hochschulen müssen laut Schwartmann Konzepte vorweisen können, aus denen hervorgeht, wie sie beim Einsatz von hochriskanter KI eine Grundrechtefolgenabschätzung vornehmen. Dies sei immer dann notwendig, wenn der Einsatz von KI Persönlichkeitsrechte Dritter tangiere. Das ist etwa der Fall, wenn unter Hinzuziehung von KI-Tools die Leistung einer Person in Prüfungen oder bei Einstellungsverfahren ermittelt wird. 

Wie es um die KI-Kompetenz an Hochschulen steht

Leitlinien sind ein zentraler Kommunikationsweg, um Hochschulangehörige über die Vorgaben zum Einsatz von KI zu informieren. Nur rund 30 Prozent der Hochschulen in Deutschland haben entsprechende Leitlinien veröffentlicht, wie eine Untersuchung von Marlit Annalena Lindner ergab (Stand: November 2024). Lindner ist Professorin für Digitale Bildung am Leibniz-Institut für die Pädagogik der Naturwissenschaften (IPN) in Kiel und an der Europa-Universität Flensburg. 

Gemeinsam mit Wirtschaftsinformatikerin Doris Weßels von der Fachhochschule Kiel diskutiert sie in der kommenden Ausgabe von "Forschung & Lehre" die KI-Kompetenz an Hochschulen und gibt Empfehlungen, wie diese weiter verbessert werden kann. 

Die Ausgabe erscheint am 31. Januar 2025.

Anpassungen des Prüfungsrechts

Auch das Prüfungsrecht muss den aktuellen Entwicklungen Schritt halten. Schwartmann hält es für dringend erforderlich, dass Hochschulen deutlich machen, wo und wie sie den Einsatz von KI erlauben. Dabei müsse klar sein, dass der Einsatz nur bei schriftlichen oder mündlichen Prüfungen in der Hochschule kontrolliert werden könne. Bei Hausarbeiten, einschließlich Abschlussarbeiten, sei das unmöglich. Prüferinnen und Prüfer hätten faktisch keine Möglichkeit nachzuweisen, ob die Arbeit unter unerlaubter Nutzung von KI erstellt wurde. 

Der Datenschutzrechtler hält es für unabdingbar, die gegenwärtigen Formate für Abschlussprüfungen zu überdenken. "In Prüfungsordnungen kann für Prüfungen, die nicht unter Aufsicht erfolgen können, eine mündliche Erläuterung oder Disputation vorgesehen werden", so sein Vorschlag. Das sei insbesondere bei Abschlussarbeiten sinnvoll. "Die Prüfung besteht dann aus einer Kombination aus häuslicher Arbeit und mündlicher Prüfung. Das Bestehen setzt voraus, dass beide Prüfungsteile, die separat bewertet werden, bestanden sind."

Ein solches Vorgehen bedeute einen Mehraufwand für Prüferinnen und Prüfer, zahle jedoch auf Chancengleichheit und Prüfungsgerechtigkeit ein. Der Einwand, dass bei mündlichen Prüfungen der persönliche Eindruck die Bewertung verzerren könne, müsse ernstgenommen werden. Hochschulleitungen sollten vorbeugen und Lehrende für diese Gefahr sensibilisieren. 

Die Verantwortung der Hochschulangehörigen

Weiterbildung und reflektierter Einsatz von KI

Die Verpflichtung für einzelne Wissenschaftlerinnen und Wissenschaftler besteht vor allem darin, sich umfassend zu informieren und weiterzubilden. "Wer forscht und lehrt, muss mit der Hochschule auf KI-Kompetenz achten, sie erwerben und vermitteln", sagt Schwartmann.

Er rät eindringlich dazu, dass sich Hochschulangehörige an den Vorgaben der Hochschulen orientieren. "Tun sie dies nicht, übernehmen sie selbst die rechtliche Verantwortung für den Einsatz von KI", wie der Datenschutzrechtler betont. Lehrende und Lernende sollten deshalb darauf drängen, dass Hochschulen ihnen umfassende Informationen zur Verfügung stellen und die nötige KI-Software lizensieren. 

Hochschulen könnten sich "ihrer Verantwortung nicht durch lückenhafte oder ungenaue Formulierungen entziehen". Gleichzeitig müsse Beschäftigten bewusst sein, dass aus fehlenden Vorgaben der Hochschule kein "Freifahrtsschein" für die Anwendung von KI-Systemen folge. "Hochschullehrer tragen die Verantwortung für ihre Studierenden und können diese nicht auf ein KI-System übertragen."

Hochschulleitungen wie Hochschulangehörige müssten sich der Auseinandersetzung mit KI stellen, so komplex sie auch sei: "Die Lernkurve bei der Verwendung autonomer und letztlich nicht beherrschbarer technischer Werkzeuge ist in rechtlicher und technischer Hinsicht für alle sehr steil und man kann sie als Wissenschaftlerin oder Wissenschaftler nicht unter Hinweis auf die Wissenschaftsfreiheit umgehen oder sie an die Hochschule delegieren. Wenn man sie nicht sieht oder negiert, macht es das Problem größer."

Diskutieren Sie mit

Wo setzen Sie KI-Tools schon ein? Wie gut fühlen Sie sich über den Einsatz von KI-Tools an Ihrer Hochschule informiert? Was würde Sie zum Thema noch interessieren?

Schreiben Sie uns in den Kommentaren oder über kommentare(at)forschung-und-lehre.de

kas