Fünf KI-Papers am Mittwoch: Zehn Millionen Stunden Video, rekursive Selbstverbesserung und ein stabiler Kritiker

Berlin, 26. August 2026 – Der Mittwoch bringt die nächste Runde kuratierter KI-Forschung: Über den Daily-Papers-Dienst von Hugging Face wurden am Dienstagabend und Mittwochmorgen 14 neue Arbeiten gesammelt. Wir haben die Auswahl gesichtet und fünf Arbeiten herausgegriffen, die zeigen, wie sich das Feld derzeit an zwei Fronten bewegt: Auf der einen Seite wird die Infrastruktur um das Modell herum zum Forschungsgegenstand – rekursive Selbstverbesserung (Meta^n), rekursiv wachsendes Agenten-Gedächtnis (Recuris) und eine stabile Kritiker-Methode fürs Reinforcement Learning (BPCO). Auf der anderen Seite wächst das Datenfundament: LAION-BVD liefert zehn Millionen Stunden offenes Video für multimodales Vortraining, und Game2World macht Internet-Gameplay-Aufnahmen überhaupt erst zu brauchbarem Trainingsmaterial für Weltmodelle, indem es HUDs und Interfaces entfernt. Der gemeinsame Nenner: Fortschritt entsteht zunehmend dadurch, dass Systeme ihre eigene Verbesserung, ihr Gedächtnis und ihre Trainingsdaten selbst in die Hand nehmen.

LAION-BVD: Zehn Millionen Stunden Video für die offene Forschung

Videotext-Datensätze sind das Nadelöhr der multimodalen Forschung: Das bislang größte offene Angebot, InternVid, umfasst sieben Millionen Videos mit rund 760.000 Stunden – winzig im Vergleich zu den Milliarden Bild-Text-Paaren etwa in LAION-5B. Das Problem ist nicht der Mangel an Videos im Netz, sondern die Rechen-, Speicher- und Ingenieursleistung, die ihre Verarbeitung verlangt. Ein Konsortium aus Universität Tübingen, LAION, Jülich Supercomputing Centre, MPI für Intelligente Systeme und TU München schließt diese Lücke mit LAION-BVD („Big Video Dataset“): Aus 1,3 Milliarden plattformspezifischen Video-URLs aus CommonCrawl (YouTube, Vimeo, Dailymotion) wurden 80 Millionen Videos mit insgesamt zehn Millionen Stunden Laufzeit heruntergeladen.^[LAION-BVD: A 10-Million-Hour Open Video Dataset for Multimodal Pre-training – url: https://huggingface.co/papers/2608.24845]

Eine Pipeline für drei Modalitäten

Die Besonderheit des Datensatzes ist seine multimodale Anlage: Inhaltsbewusste Szenenerkennung zerlegt die Videos in Clips, für die synthetisch jeweils eigene Bildunterschriften erzeugt werden – Clip-Beschreibungen für Video-Sprach-Modelle, Audiobeschreibungen für Audio-Sprach-Modelle und Frame-Beschreibungen für Bild-Text-Analysen. Veröffentlicht werden 55 Millionen beschriftete Clips (BVD-V-55M) und 300 Millionen szenenwechselnde Einzelbilder (BVD-I-300M) aus einer zufälligen Teilmenge; die 80 Millionen Rohvideos werden unsplit bereitgestellt, die Rohdaten für Forschungseinrichtungen nach Annahme der Nutzungsbedingungen.

Starke Benchmarks, eigene Bildverteilung

Zur Validierung wurden ViCLIP-Modelle (Video-Text) und CLAP-Modelle (Audio-Text) auf Teilmengen von zehn bzw. 50 Millionen Clips trainiert: Sie erreichen wettbewerbsfähige Ergebnisse auf Standard-Benchmarks, die mit wachsender Daten- und Modellgröße konsistent steigen. Ein zweiter Befund betrifft die Bildmodalität: Die aus Videos extrahierten szenenwechselnden Frames bilden eine eigene visuelle Verteilung, die sich deutlich von klassischen Web-Bildkorpora unterscheidet – Modelle, die auf BVD-I-300M trainiert wurden, erzielen starke Bild-Text-Retrieval-Werte. Damit ergänzt LAION-BVD bestehende Bildkorpora, statt sie nur zu vergrößern.^[LAION-BVD: A 10-Million-Hour Open Video Dataset for Multimodal Pre-training – url: https://huggingface.co/papers/2608.24845]

Meta^n: Die Meta-Operation, die auf sich selbst angewendet wird

Selbstverbessernde LLM-Agenten verbessern bislang Antworten – nicht den Prozess, der die Antworten erzeugt. Wer eine Meta-Ebene hinzufügt, hält diese Ebene fest; wer sich selbst umschreibt, muss einen Teil seiner eigenen Editier-Maschinerie einfrieren, um stabil zu bleiben. Beides begrenzt die tatsächlich erreichte Meta-Tiefe auf ungefähr zwei Ebenen. Forschende der University of Minnesota und der Seoul National University stellen mit Meta^n den dritten Weg vor: Die Meta-Operation Ω bleibt fixiert, die Rekursion läuft über ihren Input.^[Meta^n: Recursive Self-Improvement through Emergent Depth – url: https://huggingface.co/papers/2608.24735]

Eine Operation, viele Ebenen

Ω ist eine einzige, feste LLM-Prompt-Prozedur: Sie liest die Ausführungsspuren des Solver-Stacks darunter samt dem Code, der sie erzeugt hat, und schreibt die nächste Ebene als strategischen Pre-Process plus eine Bibliothek aufrufbarer Helferfunktionen. Formal:

Ω: ({τ_i^(d−1)}_i=1..N, [C_2, ..., C_{d−1}], T, d) ↦ C_d

Weil Ω selbst nie mutiert, kann es das System nicht destabilisieren – und weil sein Input streng wächst, sieht jede Ebene mehr vom System unter sich als die vorherige: von oberflächlichen Bugs über strategische Entscheidungen bis zum meta-strategischen Reasoning. Die Tiefe wird nicht vorab festgelegt, sondern wächst bis zur Konvergenz; ein evolutionäres Archiv durchsucht Ketten von Ebenen. Die Isolationsprüfung belegt den Wert der Rekursion: Entfernt man sie, fällt die CO-Bench-Validierung von 0,845 auf 0,714 – ein Gewinn von 0,131 allein durch die Rekursion.

Das scipy-Beispiel und der ARC-AGI-2-Befund

Ein konkretes Beispiel macht die Mechanik greifbar: Auf CO-Benchs assignment_problem erzeugt ein einzelner LLM-Aufruf ein Skript, das scipy.optimize importiert – die Sandbox kennt scipy nicht, das Skript stürzt ab, die Punktzahl ist 0,0. Eine flache Selbstrefinementschleife probiert Varianten derselben Import-Lösung. Die Tiefe-2-Ω-Ebene von Meta^n betrachtet dagegen alle 36 Aufgaben gleichzeitig, erkennt ein Muster von Abhängigkeitsfehlern und emittiert einen Pre-Process samt Helfer: „nutze kein scipy; hier ist eine validate_output()-Funktion.“ Der Tiefe-2-Solver implementiert den Ungarischen Algorithmus neu und erzielt 1,0. Über acht Benchmark-Familien und zwei Backbones hinweg übertrifft Meta^n frühere selbstverbessernde Agenten (Gödel Agent, OpenEvolve) – am deutlichsten auf den schwersten Aufgaben: Auf dem ARC-AGI-2-Heldout, der gebaut wurde, um Skill-Memorisierung zu widerstehen, ist Meta^n das einzige System, das überhaupt Aufgaben löst. Ablationen zeigen zudem, dass mit der Tiefe unterschiedliche Ebenen-Rollen entstehen, obwohl kein Prompt sie vorschreibt.^[Meta^n: Recursive Self-Improvement through Emergent Depth – url: https://huggingface.co/papers/2608.24735]

Recuris: Gedächtnis, das mitwächst

Langfristige Agentenaufgaben scheitern oft daran, dass wachsende Verläufe den Task-Zustand verschleiern und Fähigkeiten zum falschen Zeitpunkt aufgerufen werden. Recuris (Princeton, NUS, Stanford, Oxford) adressiert das mit einer rekursiven „Experiential–Working-Memory“-Architektur für Agenten-Harnesses: Ein Working Memory verfolgt den Aufgabenfortschritt und steuert die Auswahl von Skills aus dem Erfahrungsgedächtnis – Skill-Nutzung wird an den aktuellen Bedarf gekoppelt statt an die komplette Historie. Nach jeder Skill-Ausführung verifiziert das Umwelt-Feedback den Fortschritt und aktualisiert den Zustand; so entsteht der geschlossene Regelkreis Task State → Skill-Auswahl → Ausführungs-Feedback → aktualisierter Task State.^[Recursive Experiential–Working Memory Evolution for Long-Horizon Agent Harnesses – url: https://huggingface.co/papers/2608.24876]

Lokalisierte statt globaler Verbesserung

Der entscheidende Unterschied zu früheren Erfahrungsgedächtnis-Systemen liegt in der Evolution: Bisherige Ansätze schreiben nach einem Aufgabenausgang das ganze Gedächtnis um. Recuris liest die strukturierte Trajektorie, führt jeden Fehlschlag auf eine konkrete Gedächtniskomponente zurück – gespeicherter Skill, Task-State, Aufrufmechanismus oder Verifikator – und patcht genau die betroffene Komponente. Kandidaten-Updates werden erst nach einer Validierung auf Heldout-Aufgaben übernommen. Diese Fehlerlokalisierung ist messbar genauer: Aus der strukturierten Spur gelingt sie in 64,8 Prozent der Fälle, aus dem bloßen Aufgabenausgang nur in 13,0 Prozent. Der zugrunde liegende LLM und die äußere Verbesserungsprozedur bleiben unverändert; die Rekursion spielt sich in der externalisierten Gedächtnisschicht des Harness ab.

Ergebnisse: Frontier-Modelle sind nicht gesättigt

Über vier Langzeit-Benchmarks und zehn Modelle – von 3B-Open-Weight bis Frontier – verbessert Recuris die Aufgaben-Erfolgsrate in 35 von 37 abgeschlossenen Modell-Benchmark-Paaren. Auf τ2-Retail hebt es GPT-5.6 Sol von 58,3 auf 76,1 Prozent und Claude Opus 5 von 72,4 auf 87,9 Prozent – 9,7 Punkte über dem besten Wert, den ohne Recuris überhaupt ein Modell erreicht. Auf SkillFlow steigen Qwen3.6-27B und Qwen3.6-35B um 16,6 bzw. 13,5 Punkte. Besonders aufschlussreich ist die Horizon-Abhängigkeit: Der Vorteil wächst mit der Länge der Interaktion statt zu schrumpfen und erreicht auf den längsten Aufgaben +32,2 Punkte; typische Langzeit-Fehlerbilder – ausgelassene Schreibvorgänge, falsche erste Tool-Calls, Fehlerkaskaden – sinken um bis zu 80 Prozent.^[Recursive Experiential–Working Memory Evolution for Long-Horizon Agent Harnesses – url: https://huggingface.co/papers/2608.24876]

BPCO: Der Kritiker, der das Training nicht mehr destabilisiert

Beim Reinforcement Learning großer Sprachmodelle dominieren gruppenbasierte Verfahren wie GRPO: Sie sampeln mehrere Antworten pro Prompt und vergleichen deren Belohnungen – ganz ohne trainierte Wertfunktion, aber mit mehreren Rollouts und einem pauschalen Vorteil pro Token. Ein gelernter Kritiker könnte Token-Vorteile aus einem einzigen Rollout schätzen, galt aber lange als zu instabil. Eine Arbeitsgruppe der National University of Singapore und von Tencent Hunyuan analysiert genau diese Instabilität und baut daraus Best Practice Critic Optimization (BPCO).^[Best Practice Critic Optimization – url: https://huggingface.co/papers/2608.23566]

Fünf Zutaten gegen die Instabilität

Die Rezeptur kombiniert fünf Design-Entscheidungen: Erstens ersetzt DPPO das PPO-Ratio-Clipping durch ein Clipping an der Wahrscheinlichkeitsänderung des gesampelten Tokens (|π_θ(y_t|s_t) − μ(y_t|s_t)| ≤ ε). Zweitens werden die Wertvorhersagen auf den Belohnungsbereich begrenzt – statt einer linearen, unbegrenzten Kopfschicht kommt eine skalierte Arkustangens-Transformation zum Einsatz:

V_ϕ(s_t) = R_min + (R_max − R_min) · (1/2 + (1/π) · arctan(z_ϕ(s_t)))

Drittens wird der Kritiker direkt auf beobachtete Ergebnis-Belohnungen trainiert (Monte-Carlo-Ziel, λ_V = 1) statt auf bootstrappte Ziele, die Kritikerfehler erben. Viertens bleiben die Policy-Vorteile unnormalisiert – die batchweise Normalisierung erzwingt sonst auch dann Einheits-Skalen, wenn das Rest-Policy-Signal klein ist. Fünftens adaptiert ein längenabhängiges GAE-Parameter die Gewichtung der Terminal-Belohnung an die Antwortlänge. Weil der Kritiker nach dem Training verworfen wird, darf BPCO ihn zusätzlich mit belohnungsdefinierenden Informationen füttern – Referenzlösung oder Bewertungsrubrik –, die der Policy verborgen bleiben.

Der Sanity-Test entscheidet

Die Entwicklung erfolgt in einem kontrollierten Test: Feintuning von DeepSeek-R1-Distill-Qwen-1.5B auf 1.460 mathematische Probleme, die das Modell bereits lösen kann – ein geeignetes Rezept muss diese Mini-Datenmenge fast vollständig fitten. Das Ergebnis ist eindeutig: Mit λ = 1 kollabiert die Trainings-Belohnung unter PPO, unter DPPO bleibt sie stabil; der Stress-Test λ = 0,99 destabilisiert DPPO wieder, bis die übrigen Zutaten greifen. Auf dem 40,3K-Probleme-Mathematikdatensatz, zwei 30B-A3B-Mixture-of-Experts-Modellen und einer Rubrik-Belohnungsaufgabe verbessert BPCO durchgängig eine starke Kritiker-Baseline und erreicht oder übertrifft die gruppenbasierte Vergleichsmethode – bei nur einer Antwort pro Prompt.^[Best Practice Critic Optimization – url: https://huggingface.co/papers/2608.23566]

Game2World: Ein Spiel ohne HUD ist ein besseres Weltmodell

Videospiele liefern nahezu unbegrenzt Trainingsmaterial für Weltmodelle: diverse Umgebungen, komplexe Interaktionen, reichlich Gameplay-Videos im offenen Web. Doch rohe Gameplay-Aufnahmen sind keine direkten Beobachtungen der Spielwelt – sie mischen die Szene mit Bildschirm-Interfaces wie HUDs, Menüs, Benachrichtigungen und Overlays. GameWorldData zeigt in einer kontrollierten Pilotstudie, wie sehr das stört: Trainiert man ansonsten identische Video-Generierungsmodelle auf denselben 5.442 Clips mit und ohne UI, verbessert die UI-freie Variante den Gesamt-VideoReward um 6,83 Prozent – mit 18,8 Prozent mehr Bewegungsqualität und 8,59 Prozent besserer Ästhetik. UI-Overlays führen also irreführende Supervisionssignale und visuelle Abkürzungen ein.^[Game2World Engine: Unlocking In-the-Wild Gameplay Videos for World Model Training – url: https://huggingface.co/papers/2608.24680]

G2WEngine und die GameUI-Taxonomie

Um das Datenfundament zu erschließen, formalisieren die Autoren die HUD-Entfernung als Interface-Welt-Entflechtung: Screen-Space-Overlays besitzen kategoriespezifische räumliche und zeitliche Verhaltensmuster und müssen konsistent über die Zeit entfernt werden, während die dahinter liegende Szene rekonstruiert wird. Die GameUI-Taxonomie ordnet die Elemente in 21 Kategorien; aus 1.010 repräsentativen Frames wurden 5.132 verifizierte UI-Assets extrahiert. Die G2WEngine extrahiert daraus wiederverwendbare UI-Ressourcen aus echten Videos und synthetisiert zeitlich kohärente Overlays auf sauberem Material – so entsteht Game2World mit 96.000 synthetischen Paarvideos mit präzisen Rekonstruktionszielen und 1.079 In-the-Wild-Clips aus 303 Spielen (65,72 Stunden).

GameCleaner übertrifft maskenbasierte Verfahren

Auf diesem Datensatz trainiert das Team GameCleaner, ein maskenfreies HUD-Entfernungsmodell, das multimodales semantisches Verständnis mit Video-Editing kombiniert: Es erkennt und entfernt HUD-Elemente direkt, ohne Eingabemasken. Auf den synthetischen Videos erreicht es einen mittleren AAR von 95,36 – 57,3 Prozent besser als die stärkste zeitliche Masken-Baseline – und im In-the-Wild-Test 80,05 bei 99,8 Prozent Hintergrund-Erhaltung. Ein MLLM-Evaluator stimmt dabei mit menschlichen Annotationen mit einem entfernten-F1 von 87,78 Prozent und Cohen’s κ = 0,820 überein. Damit ist die Entfernung von Spiel-Interfaces nicht nur ein Editier-Trick, sondern eine Qualitätsstufe für das Training generativer Weltmodelle.^[Game2World Engine: Unlocking In-the-Wild Gameplay Videos for World Model Training – url: https://huggingface.co/papers/2608.24680]

Fazit: Selbstverbesserung und Dateninfrastruktur wachsen zusammen

Die fünf Arbeiten des Tages erzählen eine gemeinsame Geschichte. Erstens: Selbstverbesserung wandert von der Antwort auf den Prozess – Meta^n zeigt, dass eine feste, rekursiv auf ihre eigenen Produkte angewendete Meta-Operation Meta-Tiefen jenseits der bisherigen Grenze von zwei Ebenen stabil erreicht; Recuris überträgt dieselbe Idee auf das Gedächtnis des Agenten-Harness und belegt, dass selbst Frontier-Modelle auf langen Horizonten keineswegs gesättigt sind. Zweitens: Die Stabilität des Trainings selbst wird zur Ingenieursdisziplin – BPCO zerlegt die bekannte Fragilität kritikerbasierter RL-Verfahren in fünf korrigierbare Design-Entscheidungen. Drittens: Das Datenfundament wächst in neuen Dimensionen – LAION-BVD vervielfacht die offene Video-Menge um Größenordnungen und erschließt mit Video-Frames eine eigene Bildverteilung, während Game2World zeigt, dass die Qualität der Daten oft wichtiger ist als ihre Menge: Ein um Interfaces bereinigtes Gameplay-Video ist für ein Weltmodell mehr wert als das rohe Original. Hinweis: Alle vorgestellten Arbeiten sind Preprints und noch nicht abschließend begutachtet; Ergebnisse können sich im Review-Prozess ändern.

Quellen: LAION-BVD – arXiv 2608.24845 · Meta^n – arXiv 2608.24735 · Recuris – arXiv 2608.24876 · BPCO – arXiv 2608.23566 · Game2World – arXiv 2608.24680