Hunderte Millionen KI-Agenten: Was die Rechenleistung leisten kann – und warum jede Fähigkeit die Risikokurve verschiebt

Berlin, 03. Oktober 2026 – Zwei neue Analysen aus der KI-Forschung rücken dieselbe Frage in den Mittelpunkt: Was passiert, wenn die Rechenleistung schneller wächst als alles andere? Die Denkfabrik Epoch AI hat ausgerechnet, wie viele KI-Agenten der geplante Rechenzentrums-Boom überhaupt antreiben könnte.^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents] Das Sicherheitslabor Redwood Research liefert dazu das theoretische Gegenstück – eine Landkarte davon, wann Forschung die Sicherheit erhöht und wann sie sie untergräbt.^[Redwood Research – Capabilities research expands the safety-usefulness Pareto frontier too – url: https://blog.redwoodresearch.org/p/capabilities-research-expands-the]

Ein „Land voller Genies im Rechenzentrum"

Anthropics Chef Dario Amodei hat die Zukunft einmal als „country of geniuses in a datacenter" beschrieben. Epoch AI nimmt das wörtlich und fragt: Wie viel Arbeit könnte diese Hardware tatsächlich erledigen?^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents] KI-Unternehmen gäben jedes Jahr Hunderte Milliarden Dollar für Chips und Rechenzentren aus, schreiben Jason Li und Lynette Bye – in der Wette, dass diese Zentren einst Agenten betreiben, die heutige menschliche Arbeit erledigen.^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents]

Um die Zahl möglicher Agenten zu schätzen, geht das Team von der Verfügbarkeit von High-Bandwidth-Memory (HBM) aus, dem Engpass der Chip-Produktion, und berechnet daraus die Zahl produzierbarer GB300-äquivalenter GPUs.^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents] Das Ergebnis: Die bis 2027 aufgebaute Rechenleistung könnte mit den heute leistungsfähigsten Modellen zig- bis hunderte Millionen gleichzeitig laufende Agenten tragen – oder Milliarden mit günstigeren Modellen.^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents] Ununterbrochen betrieben, entspräche das der Wochenarbeitszeit von etwa 140 bis 700 Millionen Vollzeitkräften.^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents]

Mit den Serving-Benchmarks von DeepSeek V4 Pro käme dieselbe Hardware dem Bericht zufolge sogar auf rund 1,9 Milliarden gleichzeitige Agenten – die Arbeitszeit von acht Milliarden Vollzeitkräften.^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents] Zum Vergleich: Die USA haben 342 Millionen Einwohner und schätzungsweise 100 Millionen Wissensarbeiter.^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents] Die wirtschaftliche Dimension ist enorm: Hielten die führenden Modellentwickler ihr jüngstes Wachstum von jährlich dem Fünffachen, erreichten ihre Jahresumsätze Ende 2027 rund eine Billion Dollar.^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents] Nimmt man konservativ an, dass nur 20 Prozent der Rechenleistung für umsatzbringende Inferenz genutzt werden, implizierten die Schätzungen 2,6 bis 5,3 Billionen Dollar Jahresumsatz.^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents] Die zentrale Unsicherheit bleibt, ob die Nachfrage schnell genug wächst – oder ob ein Überangebot an Agenten entsteht.^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents]

Wann Forschung der Sicherheit nützt – und wann sie schadet

Wie fragil die Hoffnung auf „Sicherheit durch mehr Forschung" ist, seziert Redwood Research in einem Beitrag von Alex Mallen.^[Redwood Research – Capabilities research expands the safety-usefulness Pareto frontier too – url: https://blog.redwoodresearch.org/p/capabilities-research-expands-the] Es sei verlockend, Sicherheitsforschung als jene Arbeit zu definieren, die einen sichereren Einsatz ermöglicht, ohne das System viel teurer oder weniger nützlich zu machen – anschaulich als Verschiebung der „Sicherheits-Nützlichkeits-Grenze".^[Redwood Research – Capabilities research expands the safety-usefulness Pareto frontier too – url: https://blog.redwoodresearch.org/p/capabilities-research-expands-the] Das Problem: Nach dieser Definition zähle praktisch jede Fähigkeitsforschung als Sicherheitsforschung, weil jede erfolgreiche Forschung neue Optionen schaffe.^[Redwood Research – Capabilities research expands the safety-usefulness Pareto frontier too – url: https://blog.redwoodresearch.org/p/capabilities-research-expands-the]

Mallen argumentiert, dass die entscheidende Frage nicht die Form der Grenze sei, sondern der Punkt, den Entwickler darauf wählen.^[Redwood Research – Capabilities research expands the safety-usefulness Pareto frontier too – url: https://blog.redwoodresearch.org/p/capabilities-research-expands-the] Sicherheitsforschung verschiebe die Grenze typischerweise so, dass Entwickler mehr Sicherheit wählen; Fähigkeitsforschung tue das Gegenteil, weil sie zusätzliche Nützlichkeits-Optionen schaffe und die Versuchung erhöhe, Sicherheit zu opfern.^[Redwood Research – Capabilities research expands the safety-usefulness Pareto frontier too – url: https://blog.redwoodresearch.org/p/capabilities-research-expands-the] Entwickler müssten sich nicht altruistisch verhalten, um Sicherheit zu wollen – sie wollten schließlich selbst nicht von der KI übernommen werden.^[Redwood Research – Capabilities research expands the safety-usefulness Pareto frontier too – url: https://blog.redwoodresearch.org/p/capabilities-research-expands-the]

Bemerkenswert offen hält der Autor fest, dass Fähigkeitsforschung bei einem führenden KI-Unternehmen derzeit „wahrscheinlich schlecht" sei.^[Redwood Research – Capabilities research expands the safety-usefulness Pareto frontier too – url: https://blog.redwoodresearch.org/p/capabilities-research-expands-the] Zugleich skizziert er eine künftige Lage mit weit höherem politischen Willen, in der bestimmte Fähigkeitsforschung ein wirksames Mittel der Sicherheit werden könnte.^[Redwood Research – Capabilities research expands the safety-usefulness Pareto frontier too – url: https://blog.redwoodresearch.org/p/capabilities-research-expands-the]

Zwei Seiten derselben Kurve

Beide Analysen greifen ineinander. Epoch AI zeigt, dass die Branche Hardware für ein digitales Arbeitsheer aufbaut, dessen Nachfrage erst noch entstehen muss.^[Epoch AI – Hundreds of millions of AI agents are coming. Is there work for them? – url: https://epochai.substack.com/p/hundreds-of-millions-of-ai-agents] Redwood Research zeigt, warum die nüchterne Frage „Wie viel können wir bauen?" immer auch eine Sicherheitsfrage ist – weil dieselbe Forschung, die neue Fähigkeiten ermöglicht, den Anreiz verschiebt, Sicherheit zurückzustellen.^[Redwood Research – Capabilities research expands the safety-usefulness Pareto frontier too – url: https://blog.redwoodresearch.org/p/capabilities-research-expands-the] Ob aus dem Rechenzentrums-Boom ein Nutzen oder ein Risiko wird, entscheidet damit weniger die Menge der Chips als die Wahl des Punktes auf der Kurve.