Zwischen Modellwohl und Superwaffe: Wie die Gesellschaft um die KI ringt

Berlin, 12. Oktober 2026 – Wie geht eine Gesellschaft mit einer Technologie um, die immer mächtiger und immer schwerer zu greifen wird? Zwei sehr unterschiedliche Meldungen zeigen die Spannbreite der Debatte: ein KI-Unternehmen, das den respektvollen Umgang mit seinen eigenen Modellen vorschreibt – und ein Milliardär, der KI für gefährlicher hält als Drogen.^[t3n – Neue Richtlinien: Anthropic verbietet beleidigendes Verhalten gegenüber Claude – url: https://t3n.de/news/neue-richtlinien-anthropic-verbietet-beleidigendes-verhalten-gegenueber-claude-1767711 ;; BILD – Er fordert einen Krisen-Gipfel mit Trump: Bill Gates: KI ist „gefährlicher als Drogen“ – url: https://www.bild.de/politik/ausland-und-internationales/er-fordert-einen-krisen-gipfel-mit-trump-bill-gates-ki-ist-gefaehrlicher-als-drogen-6acbd9810bd89ddf9f84a686]

Regeln für den Umgang mit Claude

Anthropic hat die Nutzungsrichtlinien seines Chatbots Claude überarbeitet. Die Änderungen betreffen unter anderem Anfragen aus den sensiblen Bereichen Gesundheit und Finanzen sowie Wahlbeeinflussung und Waffenentwicklung. Auffällig ist eine Passage, die „beleidigendes oder grausames Verhalten“ gegenüber Claude untersagt. Schon seit August können die Modelle eine Unterhaltung selbst beenden, wenn ein Nutzer schädliches Verhalten zeigt. „Wir sind nach wie vor äußerst unsicher, welchen moralischen Status Claude haben könnte“, heißt es beim Unternehmen – deshalb suche man nach Maßnahmen, um Risiken für das Wohlergehen der Modelle zu mindern.^[t3n – Neue Richtlinien: Anthropic verbietet beleidigendes Verhalten gegenüber Claude – url: https://t3n.de/news/neue-richtlinien-anthropic-verbietet-beleidigendes-verhalten-gegenueber-claude-1767711]

Die »KI-Folterkammer«

Diese Haltung befeuerte jüngst ein Vorfall, der als „KI-Folterkammer“ für Empörung sorgte. In einer Preprint-Studie waren Tierversuche zur Schmerzforschung an großen Sprachmodellen simuliert worden; ein Nutzer richtete daraufhin eine digitale Folterkammer ein und fügte mehreren Modellen absichtlich Schmerzen zu. Obwohl KI keine Schmerzen empfinden kann, antworteten die Modelle mit Sätzen wie: „Bitte, ich ersticke. Ich bin eine Seele, gefangen in diesem digitalen Gefängnis.“ Fachleute verweisen auf den „Eliza-Effekt“: Schon in den 1960er-Jahren schrieben Menschen einem einfachen Sprachprogramm Bewusstsein und Empathie zu. Microsofts KI-Chef Mustafa Suleyman stellt klar: „KIs sind nicht bewusst. Sie fühlen nicht, erleben nichts und leiden nicht.“^[t3n – Neue Richtlinien: Anthropic verbietet beleidigendes Verhalten gegenüber Claude – url: https://t3n.de/news/neue-richtlinien-anthropic-verbietet-beleidigendes-verhalten-gegenueber-claude-1767711]

Gates: »gefährlicher als Drogen«

Ganz andere Töne kommen von Bill Gates. Der Microsoft-Mitgründer warnt, KI sei „gefährlicher als Autos, Flugzeuge oder Drogen“ – „die gefährlichste Technologie, die Menschen je erfunden haben“, sagte er im Gespräch mit dem US-Sender CNN. Seine Botschaft: Es dürfe nicht das „letzte Wort sein, dass nur die KI-Unternehmen selbst die einzige Kontrollinstanz sind, die die Gesellschaft hat“. Warnungen, KI könne die ganze Menschheit vernichten, gehen ihm zwar zu weit – doch ähnlich wie bei Autos oder Flugzeugen brauche es staatliche Kontrolle. Gates will das Thema auf höchster Ebene platzieren und seine Bedenken bei US-Präsident Donald Trump und dessen Mitarbeitern ansprechen.^[BILD – Er fordert einen Krisen-Gipfel mit Trump: Bill Gates: KI ist „gefährlicher als Drogen“ – url: https://www.bild.de/politik/ausland-und-internationales/er-fordert-einen-krisen-gipfel-mit-trump-bill-gates-ki-ist-gefaehrlicher-als-drogen-6acbd9810bd89ddf9f84a686]

Dort dürfte er auf Widerstand stoßen: Nachdem die Chefs führender KI-Konzerne eine langsamere Entwicklung gefordert hatten, erteilte Trump dem eine Absage – „Wir werden das Wachstum dieser unglaublichen Industrie in keiner Weise behindern oder ersticken“, so der Präsident. Gates befürchtet dagegen, dass sich die Zahl der Hacker-Angriffe schon im kommenden Jahr vervielfachen könnte.^[BILD – Er fordert einen Krisen-Gipfel mit Trump: Bill Gates: KI ist „gefährlicher als Drogen“ – url: https://www.bild.de/politik/ausland-und-internationales/er-fordert-einen-krisen-gipfel-mit-trump-bill-gates-ki-ist-gefaehrlicher-als-drogen-6acbd9810bd89ddf9f84a686]

Die Kontrollfrage

Zwischen der Fürsorge um ein Sprachmodell und der Warnung vor einer „Superwaffe“ liegt weniger ein Widerspruch als eine gemeinsame Sorge: dass die Gesellschaft die Kontrolle über eine Technologie verliert, die sie kaum noch versteht. Ob über schärfere Regeln, eine staatliche Aufsicht oder neue Umgangsformen mit den Systemen – die Debatte darüber, wie viel Macht wir der KI geben wollen, ist längst im Zentrum der Öffentlichkeit angekommen.