Internationales Recht
KI-Gesetz der EU weltweit einmalig
Diskriminierungen oder Falschmeldungen: Künstliche Intelligenz (KI) birgt trotz aller Vorteile auch Risiken. Um diese zu mindern, stimmt das EU-Parlament am 13.3. in Straßburg über ein KI-Gesetz ab. Was heißt das für Menschen, die diese Anwendungen entwickeln, betreiben, anbieten oder einfach nur nutzen? "Entwicklerinnen und Entwickler müssen künftig klar kennzeichnen, wenn Texte, Bilder oder Videos im Netz und auf Social-Media-Plattformen auf Künstlicher Intelligenz beruhen", berichtet tagesschau.de. "Europa aber erlaubt keine KI-Systeme, die Menschen nach Kriterien wie politische und religiöse Ansichten, sexuelle Orientierung oder Hautfarbe in Gruppen einteilen", erläutert das Nachrichtenportal weiter.
Relevant für die Wissenschaft und Lehre von heute und morgen
Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in vielen Bereichen eingesetzt. In der Forschung und Lehre können solche Programme zum Beispiel Hypothesen schnell und mit einer hoher Genauigkeit überprüfen, Muster in Verhaltensweisen erkennen oder als (selbst entwickelter) Lernassistent fungieren. Negativbeispiele sind Betrug bei schriftlichen Arbeiten oder Publikationen.
Jugendliche und junge Erwachsene stehen einer Umfrage zufolge dem Einsatz von KI-Technologie wie ChatGPT im Unterricht überwiegend positiv gegenüber, sehen aber auch Probleme. Das zeigt eine repräsentative Befragung von 14- bis 20-Jährigen durch das Meinungsforschungsinstitut infratest dimap für die Vodafone Stiftung, die am 13.3. veröffentlicht wurde.
Gefragt, ob sie die Nutzung von KI an Schulen eher als Chance oder Gefahr empfänden, antworteten 73 Prozent mit "eher als" oder "eindeutig als" Chance, 27 Prozent sehen eher Gefahren. Die deutliche Mehrheit (67 Prozent) rechnet damit, dass sich der Unterricht durch KI spätestens innerhalb der nächsten fünf Jahre verändern wird. Noch mehr (69 Prozent) glauben, dass gute KI-Kenntnisse für ihre berufliche Zukunft wichtig sein werden.
Mehr als die Hälfte (57 Prozent) befürchtet, dass eigene Leistungen nicht von den Leistungen der KI unterschieden werden können, und rund jeder Zweite (49 Prozent) sieht eine Gefahr, durch die Nutzung von KI-Tools das Lernen an sich zu verlernen. Jeder dritte Befragte (34 Prozent) äußerte die Sorge, dass Schummeln nicht mehr entdeckt wird. Die Umfrage zeigt auch ein Bewusstsein für die Grenzen der Technologie. 64 Prozent ist im Umgang mit KI die Fähigkeit wichtig, nicht alles zu glauben, was man liest oder sieht, und die Fähigkeit, Dinge kritisch zu hinterfragen (50 Prozent).
Gesetzesvorschlag will KI-Systeme transparent und sicher machen
Das bisher weltweit einzigartige Gesetz zielt darauf ab, die Nutzung von Künstlicher Intelligenz in der Europäischen Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.
Die Pläne gehen auf einen Vorschlag der EU-Kommission von 2021 zurück. Demnach sollen KI-Systeme künftig in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein. KI, die zur Manipulation des menschlichen Verhaltens eingesetzt wird, soll demnach in Europa verboten werden.
Warum ist die gesetzliche Regelung des KI-Einsatzes wichtig?
Die Verwendung von KI ist weitverbreitet und nimmt ständig zu. Obwohl Künstliche Intelligenz oft nützlich ist, birgt sie auch potenzielle Gefahren. Die Europäische Kommission betont, dass, obwohl die meisten KI-Systeme keine großen Risiken darstellen, es wichtig ist, Regulierungen zu schaffen, um alle möglichen Gefahren einzudämmen.
Besondere Risiken sieht die Kommission bei biometrischen Überwachungen und bei persönlichen Entscheidungen, die von KI-Systemen unterstützt werden, beispielsweise im Bereich der Strafverfolgung, Bildung und Erziehung.
Das Gesetz soll für alle gelten, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU, teilte die Kommission weiter mit.
Ausblick auf die Zeit nach Inkrafttreten des Gesetzes
Sechs Monate nach Inkrafttreten des Gesetzes müssen die Mitgliedsstaaten zuerst verbotene Systeme schrittweise außer Betrieb nehmen. Nach zwei Jahren werden dann alle Punkte des Gesetzes vollständig umgesetzt sein.
Die Mitgliedsstaaten müssen Sanktionen beschließen, wenn Unternehmen die Vorschriften nicht einhalten. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.
"KI-Tools sind hervorragend darin, uns bei der Strukturierung komplexer Themen zu unterstützen, aber sie ersetzen nicht den menschlichen Diskurs oder die sozial-emotionale Interaktion im Lernprozess. Ein konstruktiver, kritischer Umgang mit KI ermöglicht es, diese Technologie ausgewogen und zielführend im Bildungsbereich einzusetzen", sagte Thomas Süße, KI-Experte und Professor für Ingenieurwissenschaften an der Hochschule Bielefeld anlässlich der Veröffentlichung der infratest-dimap-Studie.
dpa/cva
