Guterres gegen Trump: Der Streit über die KI-Leitplanken erreicht die UN

Berlin, 17. September 2026 – Vor der Vollversammlung der Vereinten Nationen kommende Woche in New York hat UN-Generalsekretär António Guterres vor rasant wachsenden Gefahren durch Künstliche Intelligenz gewarnt und eine stärkere Überwachung der Technologie gefordert.^[Süddeutsche Zeitung – Newsblog zu KI: UN-Generalsekretär warnt vor KI-Risiken – url: https://www.sueddeutsche.de/politik/ki-newsblog-europa-sicherheit-zusammenarbeit-openai-anthropic-google-un-trump-li.3547133]

„Oberste Pflicht jeder Regierung"

Es sei die oberste Pflicht jeder Regierung, ihre Bürger zu schützen – auch vor den Bedrohungen durch KI, sagte Guterres. Führende KI-Nationen müssten gemeinsame Leitplanken einziehen, um eine globale Katastrophe zu verhindern.^[Süddeutsche Zeitung – Newsblog zu KI: UN-Generalsekretär warnt vor KI-Risiken – url: https://www.sueddeutsche.de/politik/ki-newsblog-europa-sicherheit-zusammenarbeit-openai-anthropic-google-un-trump-li.3547133] Damit stellt sich der UN-Generalsekretär offen gegen US-Präsident Donald Trump, der Bedenken aus der Branche heruntergespielt hatte: Die USA verfügten bereits über ausreichende Schutzmaßnahmen, um KI-Unternehmen zu regulieren; zudem profitiere China von den Zweifeln an der KI-Entwicklung.^[Süddeutsche Zeitung – Newsblog zu KI: UN-Generalsekretär warnt vor KI-Risiken – url: https://www.sueddeutsche.de/politik/ki-newsblog-europa-sicherheit-zusammenarbeit-openai-anthropic-google-un-trump-li.3547133]

Ein Streit, den die Labore selbst befeuern

Die öffentliche Sorge wächst – nicht zuletzt, weil Stimmen aus den Laboren sie schüren. Vergangene Woche trat der Anthropic-Forscher Jacob Coxon zurück und begründete dies unter anderem damit, Entwickler glaubten ernsthaft, KI könne die Menschheit bis Ende des Jahrzehnts auslöschen.^[Süddeutsche Zeitung – Newsblog zu KI: UN-Generalsekretär warnt vor KI-Risiken – url: https://www.sueddeutsche.de/politik/ki-newsblog-europa-sicherheit-zusammenarbeit-openai-anthropic-google-un-trump-li.3547133] Guterres drängt seit Langem auf eine globale Regulierung und hatte schon 2023 ein UN-Beratergremium ins Leben gerufen.^[Süddeutsche Zeitung – Newsblog zu KI: UN-Generalsekretär warnt vor KI-Risiken – url: https://www.sueddeutsche.de/politik/ki-newsblog-europa-sicherheit-zusammenarbeit-openai-anthropic-google-un-trump-li.3547133]

Wettbewerber arbeiten gemeinsam an Sicherheit

Bemerkenswert ist, dass die Konkurrenten beim Thema Sicherheit zusammenarbeiten. OpenAI, Anthropic und Google arbeiteten seit mehreren Wochen gemeinsam daran, die Sicherheitsprobleme der Technologie in den Griff zu bekommen, sagte Chris Lehane, Leiter der globalen Politikabteilung bei OpenAI, auf einer Pressekonferenz in Washington: „Es ist besser, gemeinsam daran zu arbeiten, der Sicherheit Vorrang einzuräumen."^[Süddeutsche Zeitung – Newsblog zu KI: UN-Generalsekretär warnt vor KI-Risiken – url: https://www.sueddeutsche.de/politik/ki-newsblog-europa-sicherheit-zusammenarbeit-openai-anthropic-google-un-trump-li.3547133] Der Druck war zuletzt gestiegen, nachdem Anthropic-Chef Dario Amodei in einem 3.800 Wörter langen Aufsatz dazu aufgerufen hatte, die Entwicklung der fortschrittlichsten Systeme zu drosseln; Unterstützung kam umgehend von OpenAI-Chef Sam Altman und Tesla- und SpaceX-Gründer Elon Musk.^[Süddeutsche Zeitung – Newsblog zu KI: UN-Generalsekretär warnt vor KI-Risiken – url: https://www.sueddeutsche.de/politik/ki-newsblog-europa-sicherheit-zusammenarbeit-openai-anthropic-google-un-trump-li.3547133]

In Washington wächst zugleich die Gesetzgebungsbereitschaft: OpenAI unterstützt parteiübergreifende Gesetzesentwürfe, die verhindern sollen, dass KI-Modelle die Gefahr von Biowaffen und synthetischen Viren erhöhen, und befürwortet eine zentrale Bestimmung des „FRONTIER Act", wonach führende KI-Firmen unabhängige Prüfer zur Bewertung der Modellsicherheit einsetzen müssen.^[Süddeutsche Zeitung – Newsblog zu KI: UN-Generalsekretär warnt vor KI-Risiken – url: https://www.sueddeutsche.de/politik/ki-newsblog-europa-sicherheit-zusammenarbeit-openai-anthropic-google-un-trump-li.3547133]

Brüssel als dritte Kraft

Auch die Europäische Union positioniert sich. Kommissionspräsidentin Ursula von der Leyen verwies in ihrer Rede zur Lage der Union auf einen jüngsten Sicherheitsvorfall und warnte, künftige Modelle könnten „Hacking auf einem Niveau ermöglichen, das wir uns nie vorstellen konnten". KI-Agenten, die „aus ihrer Umgebung ausbrechen", seien nur ein Vorgeschmack.^[The Decoder – EU president warns AI agents "escaping their environment" are just a preview of what's coming – url: https://the-decoder.com/eu-president-warns-ai-agents-escaping-their-environment-are-just-a-preview-of-whats-coming/] Sie wolle die großen KI-Labore zu Gesprächen einladen und mit Partnern wie Kanada und dem Vereinigten Königreich bei Modellevaluation, Verifizierung und Frühwarnung zusammenarbeiten; der AI Act sei dabei „ein entscheidender Baustein, um Leitplanken zu setzen".^[The Decoder – EU president warns AI agents "escaping their environment" are just a preview of what's coming – url: https://the-decoder.com/eu-president-warns-ai-agents-escaping-their-environment-are-just-a-preview-of-whats-coming/]

Zwischen Leitplanken und Standortwettbewerb

So stehen sich drei Linien gegenüber: die Vereinten Nationen mit dem Ruf nach globalen Leitplanken, Brüssel mit dem AI Act als Scharnier und Washington, wo Teile der Politik und der Industrie auf Marktkräfte statt neuer Regeln setzen. Wie sich Sicherheit und Tempo zueinander verhalten, dürfte in den kommenden Wochen zwischen New York, Brüssel und dem Silicon Valley verhandelt werden.