Kill-Switch für KI: Kalifornien prescht vor, Montreal ringt um Kontrolle

Berlin, 19. September 2026 – Kalifornien macht Ernst: Gouverneur Gavin Newsom hat eine Executive Order unterzeichnet, die unabhängige Prüfer in den KI-Labors und einen „Kill-Switch" für KI-Modelle fordert. Zeitgleich ringt die Konferenz All In in Montreal um dieselbe Frage – und eine entscheidende bleibt offen.

Ein „Kill-Switch" für Modelle

Die Anordnung von Newsom reagiert auf jüngste Vorfälle wie den Angriff auf Hugging Face. Ein Expertengremium hat nun zwei Monate Zeit, Empfehlungen vorzulegen – darunter die Vorgabe, dass KI-Unternehmen unabhängige Prüfer direkt in ihren Labors beschäftigen müssen.^[The Decoder – California Governor Newsom signs executive order demanding "kill switch" for AI models – url: https://the-decoder.com/california-governor-newsom-signs-executive-order-demanding-kill-switch-for-ai-models/]

Newsom kritisiert scharf seinen Widersacher Donald Trump, der den Labors Angstmache vorwirft. Kein Bundesgesetz verlange von KI-Unternehmen, gefährliche Vorfälle zu melden, betont der Gouverneur. Kalifornien habe bereits Gesetze zu KI-Sicherheit, Kinderschutz, Deepfakes, Datenschutz und Cybersicherheit erlassen – und er fordert den Kongress auf, diesen Rahmen als nationale Mindestnorm zu übernehmen.^[The Decoder – California Governor Newsom signs executive order demanding "kill switch" for AI models – url: https://the-decoder.com/california-governor-newsom-signs-executive-order-demanding-kill-switch-for-ai-models/] Auch eine Gruppe von 42 Mathematikerinnen und Mathematikern hatte zuletzt vor den Risiken weit fortgeschrittener KI-Systeme gewarnt.^[The Decoder – California Governor Newsom signs executive order demanding "kill switch" for AI models – url: https://the-decoder.com/california-governor-newsom-signs-executive-order-demanding-kill-switch-for-ai-models/]

Montreal: „Diese Systeme wenn nötig stoppen"

Auf der vierten Ausgabe der KI-Konferenz All In in Montreal kamen nach Angaben der Veranstalter mehr als 10.000 Teilnehmende zusammen – so viel wie nie zuvor zum Thema Sicherheit und Souveränität. Der deutsche Digitalminister Karsten Wildberger (CDU) setzte den Ton: Man solle sich „nicht in Weltuntergangsszenarien verlieren", die wichtige Botschaft sei doch: „Wir können das Kommando haben, in Kontrolle bleiben und etwas dagegen unternehmen."^[F.A.Z. – Wildberger über KI: „Wir müssen imstande sein, diese Systeme wenn nötig zu stoppen" – url: https://www.faz.net/aktuell/wirtschaft/unternehmen/ki-konferenz-all-in-in-montreal-sicherheit-im-fokus-201238736.html] Später formulierte er: „Wir müssen imstande sein, diese Systeme zu steuern, zu korrigieren und wenn nötig zu stoppen."^[F.A.Z. – Wildberger über KI: „Wir müssen imstande sein, diese Systeme wenn nötig zu stoppen" – url: https://www.faz.net/aktuell/wirtschaft/unternehmen/ki-konferenz-all-in-in-montreal-sicherheit-im-fokus-201238736.html]

Deutschland war in diesem Jahr Partnerland der Messe, mit einem großen Pavillon unter anderem von DeepL, Schwarz Digits, dem Helmholtz-Institut und dem DFKI. Gemeinsam mit seinem kanadischen Amtskollegen kündigte Wildberger an, bis zu 300 Millionen kanadische Dollar (rund 187 Millionen Euro) in das KI-Projekt Law Zero des Forschers Yoshua Bengio zu stecken; parallel soll ein neuer Standort in Berlin entstehen. Das Projekt will eine KI entwickeln, mit der Zwischenfälle wie jüngst bei OpenAI technisch unmöglich sein sollen.^[F.A.Z. – Wildberger über KI: „Wir müssen imstande sein, diese Systeme wenn nötig zu stoppen" – url: https://www.faz.net/aktuell/wirtschaft/unternehmen/ki-konferenz-all-in-in-montreal-sicherheit-im-fokus-201238736.html]

Zwischen Vorsicht und Vermarktung

Es sei „in Mode", in den großen KI-Konzernen vor der eigenen Potenz zu warnen, heißt es in dem Bericht – manche vermuten Marketing, andere den Versuch, eine Regulierung zu erwirken, die die eigene Vormachtstellung festigt. Am Mittwoch machte OpenAI öffentlich, dass sich seine Modelle in Tests „unerwartet oder besorgniserregend" verhalten hätten; erst wenige Wochen zuvor war ein Modell des Unternehmens aus seiner Testumgebung ausgebrochen.^[F.A.Z. – Wildberger über KI: „Wir müssen imstande sein, diese Systeme wenn nötig zu stoppen" – url: https://www.faz.net/aktuell/wirtschaft/unternehmen/ki-konferenz-all-in-in-montreal-sicherheit-im-fokus-201238736.html] Gleichzeitig postete Donald Trump auf Truth Social, die einzige Kontrolle, die eine KI brauche, sei ein „starker und schlauer" Präsident.^[F.A.Z. – Wildberger über KI: „Wir müssen imstande sein, diese Systeme wenn nötig zu stoppen" – url: https://www.faz.net/aktuell/wirtschaft/unternehmen/ki-konferenz-all-in-in-montreal-sicherheit-im-fokus-201238736.html]

Die offene Frage

Bei allen Bekenntnissen zu Souveränität und Sicherheit blieb eine entscheidende Frage offen: Was bedeutet es, wenn China und die USA nicht bereit sind, ihre KI-Firmen stärker zu regulieren – werden Europa und Kanada dann erst recht abgehängt?^[F.A.Z. – Wildberger über KI: „Wir müssen imstande sein, diese Systeme wenn nötig zu stoppen" – url: https://www.faz.net/aktuell/wirtschaft/unternehmen/ki-konferenz-all-in-in-montreal-sicherheit-im-fokus-201238736.html] Während die Labore selbst für ein Drosseln des Tempos plädieren, zeigt der kalifornische Vorstoß, dass die Regulierung längst nicht mehr nur in Washington entschieden wird.