Künstliche Intelligenz
Bald europäische Meldestelle für KI-Missbrauch in der Wissenschaft?
Ein Whistleblower-System, über das Forschende den Missbrauch Künstlicher Intelligenz (KI) in der Wissenschaft melden können, wird möglicherweise Teil des Gesetzes zum Europäischen Forschungsraum (European Research Area Act). Das geht aus einer öffentlichen Konsultation hervor, die die Europäische Kommission am 13. Oktober geöffnet hat. Zwölf Wochen lang können die Wissenschaftscommunity ebenso wie die allgemeine Öffentlichkeit ihre Einschätzungen teilen. Verschiedene Onlinemedien haben über die Meldestelle berichtet, darunter Euractiv und Science Business.
Aktuell gibt es laut Konsultation keine spezifische Möglichkeit, auf EU-Ebene KI-Missbrauch in der Wissenschaft zu melden. Dazu gehören unethische und schädliche Nutzungen von KI-Technologien. Diese Lücke könne dazu führen, dass gefährliche Verwendungen nicht bemerkt werden und das Vertrauen in die Wissenschaft in der Folge untergraben wird, heißt es in der Konsultation. Kommt die Meldestelle, müssten in der Folge die Forschungseinrichtungen die verwendeten KI-Modelle und ihre Datensätze expliziter dokumentieren.
Für das Whistleblower-System wäre es demnach denkbar, dass eine unabhängige EU-Behörde eingerichtet wird, die gemeldete Fälle überprüft. Die EU verfügt seit 2019 über allgemeine Schutzmaßnahmen für Whistleblower. In der Konsultation wird auch gefragt, ob es wissenschaftsspezifische Regeln für KI geben sollte.
Reaktionen der Forschungscommunity auf das Whistleblower-System
Das Online-Magazin Science Business berichtet von ersten Reaktionen auf die Pläne aus der Wissenschaftscommunity. Die Community äußere sich vorsichtig positiv, weise aber darauf hin, dass das System kein Einfalltor für politische Einflussnahme in die Forschung sein darf. Während tatsächlich mehr Regularien benötigt würden, sei fraglich, ob das Problem auf der Ebene von EU-Gesetzen gelöst werden sollte. Lösungen müssten in Zusammenarbeit mit der Wissenschaftscommunity, vor allem mit den Hochschulen, entwickelt werden. So könne sichergestellt werden, dass realistische Regeln vereinbart würden, die in den Kontext der Forschung passten. Auch müssten die diversen Forschungskulturen in Europa berücksichtigt werden.
Bevor die EU neue Gesetze vorschlagen könne, sei es notwendig, dass sie die geltenden nationalen und internationalen Regularien sichte. Institutionelle, nationale und EU-weite Ansätze müssten harmonisiert werden, damit Mehrarbeit und widersprüchliche Verpflichtungen für Wissenschaftlerinnen und Wissenschaftler vermieden würden.
EU vernachlässigt KI-Forschung im internationalen Vergleich
Die Konsultation wurde kurz nach dem Start der AI-in-Science-Strategie geöffnet, die der EU eine Rolle an der Spitze der KI-gestützten Forschung und Innovation zuweisen soll. Diese Spitzenposition hat die EU aktuell nicht, wie aus dem vor wenigen Tagen veröffentlichten State of AI Report 2025 hervorgeht.
Demnach wird die staatlich finanzierte Grundlagenforschung im Bereich KI in der EU vernachlässigt, während private Investitionen in die Erforschung Künstlicher Intelligenz im europäischen Wirtschaftsraum stark zugenommen haben. 82 Prozent der privaten KI-Finanzierungen in Höhe von 133 Milliarden US-Dollar wurden im Jahr 2025 dem Report zufolge von US-amerikanischen Unternehmen aufgebracht (109 Mrd. US-Dollar), während auf Europa und Großbritannien knapp 9 Prozent (12 Mrd. US-Dollar) und auf China knapp 4 Prozent (5 Mrd. US-Dollar) entfielen.
Während 22 Prozent der weltweit führenden KI-Forschenden in Europa studiert haben, arbeiten nur noch 14 Prozent dort, heißt es im Bericht weiter. Bei der KI-Rechenkapazität habe eine Verlagerung von öffentlichen zu privaten Kapazitäten durch sogenannte Supercomputer stattgefunden. Im Jahr 2019 kontrollierten öffentliche Institutionen wie Universitäten noch 60 Prozent der Rechenkapazitäten kontrollierten, inzwischen sei dieser Anteil auf unter 20 Prozent gefallen und in den privatwirtschaftlichen Bereich übergegangen.
Anfang November wird die AI-in-Science-Strategie und das Pilotprojekt "RAISE – the Resource for AI Science in Europe" im Rahmen des AI-in-Science-Gipfels vorgestellt.
Mehr zum European Research Area Act
Der Europäische Forschungsraum soll aus der EU einen geeinten Markt für Forschung, Innovation und Technologie formen. So sollen etwa Hürden für Wissenschaftlerinnen und Wissenschaftler abgebaut werden, die innerhalb der EU in anderen Ländern arbeiten wollen. Die EU-Kommission beabsichtigt, das zugrundeliegende Gesetz im kommenden Jahr zu verabschieden. Neben nicht-bindenden EU-weiten Prinzipien und Richtlinien für den verantwortungsvollen und ethischen Gebrauch von KI in der Forschung soll das Gesetz auch mehr Einheitlichkeit bei der Forschungssicherheit bringen.
cpy/cva
