Prüfer im Haus, Aktien fürs Gemeinwohl: Anthropic probt die private Aufsicht

Berlin, 19. Oktober 2026 – Die Frage, wer die mächtigsten KI-Modelle kontrolliert, wird derzeit nicht im Parlament entschieden, sondern in den Büros der Unternehmen, die sie bauen. Anthropic hat am Wochenende an zwei Stellen vorgeführt, wie diese Selbstbindung aussehen soll: mit fremden Prüfern im eigenen Haus und mit einem Fonds, der einen Teil des Unternehmenswerts öffentlichen Zwecken zuführen soll.

Sechs Fremde im Haus

Der KI-Konzern hat externen Gutachtern „mitarbeiterähnlichen Zugang" zu seinen Modellen gewährt. Die gemeinnützige Organisation METR, die bereits mit OpenAI, Google und Meta gearbeitet hat, hat nun ein Team in den Räumen des Claude-Herstellers – mit Zugang zu dessen Hardware und internen Systemen.^[Ars Technica – Anthropic gives outside AI watchdog “employee-like” access – url: https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/]

Konkret hat Anthropic sechs METR-Beschäftigte aufgenommen, ausgestattet mit Firmenhardware, Büroplatz und „Zugang zu internen Werkzeugen und Systemen, der ungefähr dem entspricht, was unsere eigenen Risikobewertungsteams haben". Die Belegschaft sei angehalten, Informationen mit den Prüfern so zu teilen wie mit Kolleginnen und Kollegen aus dem Risikobereich.^[Ars Technica – Anthropic gives outside AI watchdog “employee-like” access – url: https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/]

Kein Vetorecht – aber ein Redaktionsrecht

Die Prüfer veröffentlichen ihre Analysen, und Anthropic kann die Veröffentlichung nicht verhindern. Das Unternehmen darf allerdings verlangen, dass bestimmte Kategorien geschwärzt werden: Kundendaten, durch Anwaltsgeheimnis geschützte Angaben und Informationen über Modellarchitekturen.^[Ars Technica – Anthropic gives outside AI watchdog “employee-like” access – url: https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/]

Bezahlt wird für die Aufsicht nicht. METR nimmt keine Spenden von KI-Unternehmen oder deren Beschäftigten an und finanziert sich aus Beiträgen von Privatpersonen, philanthropischen Organisationen sowie staatlichen Stellen wie dem britischen AI Security Institute.^[Ars Technica – Anthropic gives outside AI watchdog “employee-like” access – url: https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/] Das ist mehr als ein Detail: Es entscheidet darüber, ob ein Prüfer als verlängerter Arm des Unternehmens gelten muss oder nicht.

Das Vorbild Bankenaufsicht

Die Ankündigung ist der erste Umsetzungsschritt eines Vorschlags, den Anthropic-Chef Dario Amodei im September gemacht hatte – und für den sich ausnahmsweise auch seine Erzrivalen Sam Altman und Elon Musk aussprachen. OpenAI hat nach Angaben von Ars Technica bislang keine Pläne vorgelegt, wie solche Prüfer eingebunden werden sollen.^[Ars Technica – Anthropic gives outside AI watchdog “employee-like” access – url: https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/]

Kritik gibt es trotzdem. Sie richtet sich auf mögliche Interessenkonflikte – mit Verweis auf entsprechende Erfahrungen in der Buchhaltungsbranche – und auf die Forderung, dass es stattdessen stärkerer staatlicher Regulierung bedürfe. Anthropic hält dagegen, eine öffentliche Information über sicherheitsrelevante Details nütze auch böswilligen Akteuren oder Wettbewerbern, und vergleicht das Modell mit der Bankenaufsicht, bei der Regulierer Prüfer dauerhaft in den größten Instituten platzieren: „Wenn das Risikoverhalten einer Bank die Öffentlichkeit bedrohen könnte, versuchen Dritte, das im Voraus zu erkennen."^[Ars Technica – Anthropic gives outside AI watchdog “employee-like” access – url: https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/]

Neben METR prüft SecureBio die Risiken im Bereich chemischer und biologischer Waffen. Mit Accenture, seit dem vergangenen Monat Partner für Sicherheitstests, wurden laut Anthropic Vereinbarungen getroffen, die jeweils mindestens eine Milliarde Dollar für neue Schutzmechanismen vorsehen.^[Ars Technica – Anthropic gives outside AI watchdog “employee-like” access – url: https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/]

Fünf Prozent für das Gemeinwohl

Am Sonntag folgte die zweite Nachricht: Anthropic will fünf Prozent seiner Aktien in einen neuen Gemeinwohl-Fonds einbringen. Die Beteiligung könne mit steigender Unternehmensbewertung noch wachsen, teilte der Konzern mit. Der Entwickler plant derzeit einen der größten Börsengänge der Geschichte – als „Public Benefit Corporation", eine US-Rechtsform, die das Management verpflichtet, neben Gewinnen für Investoren auch breitere gesellschaftliche Interessen zu berücksichtigen.^[F.A.Z. – Business-Ticker: Anthropic will neuen Gemeinwohl-Fonds gründen – url: https://www.faz.net/aktuell/wirtschaft/unternehmen/business-liveticker-anthropic-will-neuen-gemeinwohl-fonds-gruenden-faz-200452404.html]

Der „Anthropic Public Benefit Fund" soll Spenden an gemeinnützige Organisationen ermöglichen, direkte Zahlungen an bestimmte Bevölkerungsgruppen leisten und Maßnahmen zur Abfederung der KI-Auswirkungen auf Arbeitnehmer unterstützen. Die Mittel dürfen weder im In- noch im Ausland für Lobbyarbeit oder politische Spenden verwendet werden. Zusammen mit anderen Zusagen sind damit rund 20 Prozent der Anthropic-Aktien für öffentliche Zwecke vorgesehen. Der Fonds soll als hundertprozentige Tochtergesellschaft gegründet werden; für jeden Wertzuwachs von 50 Prozent über einem noch nicht genannten Basiswert kann der Verwaltungsrat ihm weitere zwei Prozent der Aktien zuteilen. Voraussetzung ist die Zustimmung der Aktionäre.^[F.A.Z. – Business-Ticker: Anthropic will neuen Gemeinwohl-Fonds gründen – url: https://www.faz.net/aktuell/wirtschaft/unternehmen/business-liveticker-anthropic-will-neuen-gemeinwohl-fonds-gruenden-faz-200452404.html]

Der Börsengang als Taktgeber

Beide Schritte haben einen gemeinsamen Adressaten: den Kapitalmarkt. Anthropic steht unter Druck, Investoren davon zu überzeugen, dass Sicherheitsfragen den für dieses Jahr erwarteten Börsengang nicht überschatten – Bewertung: mehr als zwei Billionen Dollar. Ein großer Teil der Investorenpräsentationen in dieser Woche diente demnach dem Nachweis eigener Sicherheitspraxis.^[Ars Technica – Anthropic gives outside AI watchdog “employee-like” access – url: https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/]

Das ist die politische Pointe des Wochenendes: Ein Privatunternehmen entwirft seine eigene Aufsicht – mit Prüfern, die nicht bezahlt werden, veröffentlichen dürfen und dennoch der Genehmigung des Unternehmens für die Schwärzung sensibler Passagen bedürfen. Ob das ein Modell für die Branche ist oder eine Zwischenlösung bis zur gesetzlichen Regulierung, hängt an einer Frage, die Anthropic selbst offenlässt: Was passiert, wenn ein Prüfer zu einem Ergebnis kommt, das dem Geschäft schadet? „Wir betten Prüfer freiwillig ein, und wir glauben, jedes führende KI-Unternehmen sollte das Gleiche tun", heißt es dazu nur.^[Ars Technica – Anthropic gives outside AI watchdog “employee-like” access – url: https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/]