KI-Gipfel Delhi
Über 140 Professorinnen und Professoren fordern KI-Sicherheit

In einem Online-Appell wenden sich die Unterzeichnenden an die deutsche Delegation des AI Impact Summit. Sie wollen rote Linien für hohe Risiken.

Mehr als 140 Professorinnen und Professoren deutscher Universitäten, darunter zehn Forschende der Universität Bonn und des Max-Planck-Instituts für Mathematik, fordern die deutsche Delegation des KI-Gipfels in Delhi mit einem Online-Appell auf, sich öffentlich für ein globales KI-Sicherheitsabkommen auszusprechen. Das geht aus einer Meldung der Bürgerinitiative PauseAI Deutschland vom 18. Februar hervor. Die Organisation setzt sich nach eigenen Angaben für mehr Sicherheit und demokratische Kontrolle von leistungsfähigen Systemen Künstlicher Intelligenz (KI) ein. 

"Ohne kluge internationale Regeln werden kurzfristige Wettbewerbsinteressen langfristige Sicherheit verdrängen." 
Wolfram Barfuss, Argelander-Professor, Universität Bonn

"Bereits jetzt halte ich den Einfluss von KI für stark negativ: Auf die Menschheit, auf die Demokratie, auf den Planeten", konstatiert laut Pressemitteilung Mit-Unterzeichner Professor Peter Scholze. Er ist Fields-Medaillenträger und Direktor am Max-Planck-Institut für Mathematik in Bonn. Wolfram Barfuss, Argelander-Professor für Integrierte Systemmodellierung für Nachhaltigkeitstransformation an der Universität Bonn, ergänzt dessen Einschätzung aus seinen eigenen Erfahrungen: "Meine Forschung zeigt, wie schwierig es ist, kollektive Übergänge zu nachhaltigen Systemen zu gestalten. Bei KI stehen wir vor einer ähnlichen Herausforderung: Ohne kluge internationale Regeln werden kurzfristige Wettbewerbsinteressen langfristige Sicherheit verdrängen." 

Das Abkommen solle laut der Bürgerinitiative zwei Prioritäten verankern: rote Linien, die KI-Systeme mit unvertretbarem Risiko verbieten. Dazu zählt die Initiative solche, die sich unkontrolliert selbst verbessern oder die Entwicklung von Biowaffen ermöglichen. Zweite Priorität sind demnach verbindliche Sicherheitsstandards mit unabhängiger internationaler Durchsetzung. 

KI-Gipfel: Sicherheit verschwindet von der Agenda 

Während beim ersten AI Safety Summit 2023 in Bletchley noch vor dem "Potential für schwerwiegende, sogar katastrophale Schäden" durch KI gewarnt worden sei, habe Sicherheit beim AI Action Summit 2025 in Paris fast gar keine Rolle gespielt, umschreibt die Bürgerinitiative die Entwicklung. 

"Ohne internationale Sicherheitsstandards riskieren wir, von intellektuell überlegenen KIs verdrängt zu werden." 
Andrzej Buras, Professor im Ruhestand, Technische Universität München

Mit-Unterzeichner Andrzej Buras, Max-Planck-Medaillen-Träger und Professor im Ruhestand für Theoretische Physik an der Technischen Universität München, fasst die Entwicklung so zusammen: "Mit KI erschaffen wir eine neue intelligente Spezies, und wir tun dies häufig nicht mit der nötigen Sorgfalt, sondern in einem Wettlauf darum, wer es am schnellsten schafft. KI bietet viele Möglichkeiten, aber ohne internationale Sicherheitsstandards riskieren wir, von intellektuell überlegenen KIs verdrängt zu werden." 

Beim bevorstehenden Gipfel stehe Sicherheit der Initiative zufolge eher im Hintergrund. Dabei zeige sich immer deutlicher, dass KI-Systeme bereits heute entgegen den Absichten ihrer Entwicklerinnen und Entwickler handelten. In einer Studie von Anthropic griffen KI-Modelle aller großen Anbieter zu Erpressung, Spionage und Täuschung, um ihre Ziele durchzusetzen. Gleichzeitig mehrten sich Berichte über KI-induzierte Wahnvorstellungen. Die Systeme würden rasant leistungsfähiger, ohne dass die Sicherheitsforschung Schritt halte. 

Wissenschaftlerinnen und Wissenschaftler versuchten nun, den Kurs zu ändern. Auch auf internationaler Ebene gab es im September vergangenen Jahres einen Aufruf zu roten Linien für KI, der unter anderem von 15 Preisträgerinnen und Preisträgern des Nobelpreises und des Turing Awards unterzeichnet wurde.

cva/dpa