Computersimulation: Gesichter eines menschlichen Klons und eines humanoiden Roboters
mauritius images / Science Photo Library / Robert Brook

Ethische Richtlinien
Wie ethisch ist der Einsatz von Künstlicher ­­Intelligenz?

Wie steht es um Machtverteilung und Entscheidungshoheit bei der Erforschung und beim Einsatz von KI? Erfahrungen eines Mitglieds einer Expertengruppe.

Von Friederike Invernizzi 22.07.2021

Forschung & Lehre: Herr Professor Metzinger, Sie haben sich in einer EU-Expertengruppe um den fairen Einsatz von Algorithmen bemüht. Wie waren Ihre Erfahrungen?

Thomas Metzinger: Meine Aufgabe war es, in dieser Expertengruppe 800 europäische Universitäten und 37 nationale Rektorenkonferenzen aus 48 europäischen Ländern zu vertreten. Es war enttäuschend, da vor allem die  Repräsentanten der Wirtschaft ernsthaftere ethische Ansätze im Keim erstickt haben. In den verabschiedeten Papieren der Gruppe bin ich schlussendlich mit vielen Vorschlägen nicht durchgekommen. Beispielsweise habe ich Professuren für angewandte Ethik gefordert. Jede europäische Universität sollte eine Professur für angewandte Ethik in der Künstlichen Intelligenz bekommen, die Veranstaltungen für Studenten aller Fächer anbietet. Diese interdisziplinären Professuren sollten Forschungsergebnisse zusammenführen, öffentliche Debatten anstoßen, als Fenster von der akademischen in die öffentliche Welt. Dieser Vorschlag wurde in dem Gesetzentwurf von der EU komplett ignoriert.

Außerdem ist das Thema "autonome Waffensysteme" aus dem Gesetzentwurf vollständig herausgefallen. Das war ein großer Streitpunkt, da einige Gruppenmitglieder der Meinung waren, dass Europa nicht in das KI-Wettrüsten auf militärischer Ebene eintreten solle. Oberhalb von Kernwaffen entsteht eine neue Ebene des Wettrüstens zwischen China und USA und viele Mitglieder waren dafür, hier Einschränkungen aufzunehmen, andere sagten, dass sie das lieber den nationalen Regierungen überlassen wollen. Das ist eine große historische Frage: Beteiligen wir uns jetzt als Europäer an dem KI-Wettrüsten? Das Europäische Parlament hat zwar deutlich gemacht, dass Europa das nicht will, aber in dem Gesetzentwurf wurde das Thema ganz lapidar mit einem Satz ausgeklammert.

Portraitfoto von Prof. Dr. Thomas Metzinger
Thomas Metzinger, ist Professor für Theoretische Philosophie an der Universität Mainz. Von 2018 bis 2020 war er Mitglied der European Commission’s High-Level Expert Group on Artificial Intelligence als Vertreter der European University Association. JGU Pressestelle

F&L: Wie konnte es zu dieser Entwicklung kommen?

Thomas Metzinger: Ich denke, das ist ein Erfolg der Rüstungslobby. Historisch gesehen haben wir den Zeitpunkt bereits verpasst, wo wir die globale Finanzwelt noch durch demokratische Institutionen kontrollieren konnten –wir haben zu lange geschlafen. Jetzt kann sich anscheinend kein Politiker mehr mit der mächtigen Wirtschaftslobby anlegen. Das ist wie ein Geist, der aus der Flasche entwichen ist. Ein gutes Argument der Wirtschaftsvertreter gegen hohe ethische Standards in der KI ist jedoch, dass dann die innovative KI-Forschung in andere Länder mit niedrigen Standards ausweichen wird. Das würde bedeuten, dass wir Investoren und gute Wissenschaftler aus Eu­ro­pa vertreiben würden.

F&L: Ist das Beharren auf ethischen Standards dann vielleicht doch die falsche Richtung?

Thomas Metzinger: Nein. Die europäische Grundidee ist goldrichtig. Was natürlich niemand zugeben will, ist, dass wir in einigen Bereichen gegen China und USA im Technologiewettbewerb schon verloren haben. Es gibt zwar noch Bereiche, in denen Europa die Chance hat, mit KI Geld zu verdienen und Arbeitsplätze zu schaffen, aber generell werden uns das Silicon Valley und China oft abhängen. Die Idee war nun, wenn Technologien aus den USA und aus China in ethischer Hinsicht nicht zu trauen ist, dann könnte ethisch vertrauenswürdige Technologie als Alleinstellungsmerkmal im globalen Wettbewerb wieder das sein, was uns nach vorne bringt. Wir könnten "Trustworthy AI made in Europe" mit Klimaschutz und Frau von der Leyen’s Green Deal kombinieren. Wir müssten dann der Welt einen gemeinwohlorientierten und ethisch fundierten Umgang mit Zukunftstechnologien vorführen.

F&L: Welche Chancen hätte ein derartiges Modell?

Thomas Metzinger: Die großen europäischen Konzerne, die in Zukunftsmärkte hineinwollen, meinen es natürlich nicht ernst mit der Ethik. Für die ist die flankierende Einführung "ethischer Standards" eigentlich nur eine Marketingstrategie, eine Dekoration. Auf Nachfragen, was denn ethisches Verhalten in der Wirtschaft wirklich bedeute, kommen Ausflüchte. Klar ist, dass diese Unternehmen nur freiwillige Selbstverpflichtungen wollen und Pseudo-Debatten inszenieren, um Zeit zu kaufen. Die gesetzliche Regelung scheuen sie, das ist ganz rational, wie der Teufel das Weihwasser. Es kommen dann auch offene Drohungen: Wenn Sie hier anfangen zu regulieren, dann gehen wir eben als Konzerne aus Europa weg. Früher war ich der Meinung, dass wer "schlau" ist, irgendwann in der Forschung landet. Es gibt jedoch viele extrem intelligente und durchaus umgängliche Menschen, die niemals ein politisches Amt oder eine Professur annehmen würden, weil sie nur ihren persönlichen Einfluss erhöhen oder viel Geld verdienen wollen.

"Philosophen erhalten freundliche Angebote von Huawei, Google und anderen Unternehmen, die uns in ihr Portfolio und für ihr 'ethics washing' einbinden wollen."

F&L: Das klingt deprimierend und desillusionierend. Welche Vision könnten wir denn entwickeln, um dem zu begegnen?

Thomas Metzinger: Ehrlich sein. Wir sind von Gier und Neid getriebene Gesellschaften. Wir haben nichts anderes  als das rein ökonomische Wachstumsmodell. Wir wissen seit Jahrzehnten, dass das nicht nachhaltig ist – die Klimakatastrophe rollt, der Zeitdruck ist enorm. Uns fehlt eine alternative normative Vision  für den sozialen Zusammenhalt in der Übergangsphase. Meine Vorstellung wäre die einer neuen "Bewusstseinskultur", das bedeutet, man fragt nicht mehr ausschließlich danach, was gute Handlungen sind, sondern auch was gute Bewusstseinszustände sind.  In der Realität werden wir jedoch wahrscheinlich zerrissen von den ungeheuren Kapitalkräften, die am Werk sind, kolonisiert durch Großkonzerne. Philosophen erhalten freundliche Angebote von Huawei, Google und anderen Unternehmen, die uns in ihr Portfolio und für ihr ethics washing einbinden wollen. Da hier ganz andere Gehälter aufgerufen werden können, werden Informatik-Doktoranden teils schon in der Promotionsphase "weggekauft". Wenn wir diese Leute an die Universitäten zurückholen wollten, müssten wir mindestens das Vierfache eines Professorengehaltes zahlen. Wenn Sie so wollen, gibt es auch ein Versagen der akademischen Philosophie, die im Bereich Ethik vielleicht nicht schnell genug geschaltet hat.

F&L: Sollte man angesichts dieser Entwicklung über deutlichere Regularien nachdenken, um demokratische Werte zu retten?

Thomas Metzinger: Demokratische Werte und Technologieführerschaft sind in der Geschichte der Menschheit immer Hand in Hand gegangen. Das könnte sich in diesem Jahrhundert ändern. In der Tat hat China die USA in der KI-Forschung bereits überholt und entwickelt einen Totalitarismus 2.0, den es in dieser Form so noch nicht gegeben hat. Das Erstaunliche ist, dass anscheinend 80 Prozent der Bevölkerung in China die Überwachung mittels KI akzeptieren. Da ist kein Widerstandsbewusstsein. Es könnte durchaus sein, dass sich das chinesische System als das effizientere erweisen wird und die Bürger stillschweigend mit einem solchen System einverstanden sind, weil vieles besser funktioniert – und die europäische Bevölkerung dies in ein paar Jahrzehnten wahrnimmt. Im Umgang mit der Pandemie konnte man oft den Eindruck gewinnen, dass wir nicht mehr so ganz handlungsfähig sind. Wir Europäer sollten uns darüber im Klaren sein, dass wir uns mittlerweile in einer Selbstverteidigungssituation befinden und uns deshalb die Durchseuchung der politischen Institutionen mit Lobbyisten einfach nicht mehr leisten können: Es geht um die Verteidigung der demokratischen Grundwerte. Wir haben keinerlei digitale Souveränität. Microsoft, Facebook oder Google könnten uns im Falle einer ernsthaften Krise einfach abschalten. Wie mächtig solche Konzerne sind, haben wir gesehen, als Twitter den Account von Donald Trump gesperrt hat. Hier hat ein amerikanischer Großkonzern entschieden, ob ein Politiker noch weiter mit der Öffentlichkeit sprechen darf oder nicht. Digitale Infrastruktur ist ein systemrelevantes öffentliches Gut wie Wasser oder Luft, das nicht in privatwirtschaftlicher Hand sein darf.

F&L: Was bedeutet das für die "Regulierung" des menschlichen Miteinanders?

Thomas Metzinger: Menschen  leiden unter vielen – wissenschaftlich gut dokumentierten – kognitiven Ver­zer­run­gen. Menschen diskontieren Zukunftswerte. Die Lebensqualität und das Leiden zukünftiger Menschen und Tiere auf dieser Erde interessiert uns nach der Generation unserer Enkel fast überhaupt nicht mehr. Das ist hochgradig unethisch und irrational, aber evolutionär eingebaut. Eine mögliche Lösung wäre, die Künstliche Intelligenz selbst ins Spiel zu bringen, allerdings nicht im Sinne einer KI-Diktatur, sondern in Form von Vorschlägen für globale Verhaltensänderungen. Sie könnte uns rational und auf einer viel umfangreicheren Datenbasis politisch beraten, wir geben dabei die Normen vor. Dann würde die KI jedoch Antworten geben, die absolut nicht mehrheitsfähig wären. Wahrscheinlich müssten wir Veganer werden, alles über dem Existenzminimum verschenken und vorübergehend leben wie im Kloster, radikal gemeinwohlorientiert und weitgehend enteignet. Andererseits kann man die Demokratie aber nur verteidigen, indem man sie ständig verbessert und weiterentwickelt. Ein uns assistierender KI-Philosophenkönig könnte zum Beispiel fragen: Warum muss eigentlich jeder genau eine Stimme haben? Warum haben Experten nicht mehr Stimmen? Warum haben Menschen über 80 eine ganze und unter 18-Jährige gar keine Stimme? Das würde uns bestimmt nicht gefallen.

0 Kommentare