Internationales Recht
KI-Gesetz der EU endgültig beschlossen

Die EU-Staaten haben schärfere Regeln für den Einsatz von KI verabschiedet. Welche Bedeutung hat das neue Gesetz für die Hochschulen?

Das gestern verabschiedete Gesetz zielt darauf ab, die Nutzung von Künstlicher Intelligenz (KI) in der Europäischen Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien. Das Gesetz könnte einen globalen Standard für die Regulierung von KI setzen. Es gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU. 

Die Pläne gehen auf einen Vorschlag der EU-Kommission von 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen künftig strenge Anforderungen erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten ("Social Scoring"). Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben. Für die Gesichtserkennung im öffentlichen Raum gelten Ausnahmen: Für Polizei und andere Sicherheitsbehörden soll sie möglich sein, um bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.

Bedeutung des KI-Gesetzes für die Hochschulen

Die neue KI-Verordnung (KI-VO) setze einen Rechtsrahmen für den Einsatz von generativer Künstlicher Intelligenz an Hochschulen, erläutert Professor Rolf Schwartmann von der Kölner Forschungsstelle für Medienrecht an der Technischen Hochschule Köln gegenüber "Forschung & Lehre": "Damit sind für die Nutzung von sogenannten Bots in Lehre und Forschung sowie in Prüfungen und bei der Prüfungsbewertung Regeln aufgestellt, die künftig über das ebenfalls geltende Datenschutz-, Prüfungs- und Urheberrecht hinaus gelten."

Werde die neue Technik an Hochschulen eingesetzt, sollte das auf lizenzrechtlich belastbarer Basis erfolgen. "Wenn 'Allzweck-KI' – wie ChatGPT – im Kontext der Leistungsbewertung eingesetzt wird, dann gilt sie nach der KI-VO als hochriskant", so Schwartmann. "An diese Verwendungszwecke knüpft das neue Recht sehr strenge Voraussetzungen und es sieht bei Verstößen erhebliche Bußgelder vor. Bevor Hochschulen derartige Nutzungen zulassen, müssen Sie eine Grundrechte-Folgenabschätzung durchführen. Daneben sind sie rechtlich dazu verpflichtet, ihre Angehörigen zu schulen, um KI-Kompetenz zu ermöglichen."

"Regulierungsarbeit beginnt jetzt erst"

Der Digitalverband "Bitkom" kritisierte, dass das nun beschlossene KI-Gesetz wesentliche Fragen offen lasse. In Deutschland und den anderen EU-Ländern beginne die Regulierungsarbeit jetzt erst, sagte Verbandspräsident Ralf Wintergerst. Ob KI in Deutschland und Europa einen Schub erhalte oder vor allem vor neue Hindernisse gestellt werde, hänge entscheidend davon ab, wie dieser Rahmen ausgestaltet werde und die Regelungen in Deutschland umgesetzt würden.

Bundesdigitalminister Volker Wissing räumte am Dienstag ein, dass der Gesetzgeber bei einer sich so schnell verändernden Technologie wie KI dauerhaft gefordert sei. "Wir können nicht erwarten, dass wir mit einer Regulierung die Zukunftsfragen abschließend klären", sagte der FDP-Politiker. "Deswegen war ich immer dafür, dass wir schnell uns auf den Weg der Regulierung machen, aber auch den Mut haben, kontinuierlich nachzusteuern." Wichtig sei, dass die Innovationsfreundlichkeit der Regulierung immer im Blick behalten werde.

Nach der Bestätigung der EU-Länder werden die neuen Regeln nun im Amtsblatt veröffentlicht und treten 20 Tage später in Kraft. Zwei Jahre nach dem Inkrafttreten sollen sie dann gelten.

dpa/hes