Fünf KI-Papers am Freitag: Fähigkeiten statt neuer Parameter

Berlin, 29. August 2026 – Der Freitag bringt die nächste Runde kuratierter KI-Forschung: Über den Daily-Papers-Dienst von Hugging Face wurden am Donnerstag 23 neue Arbeiten gesammelt. Wir haben die Auswahl gesichtet und fünf Arbeiten herausgegriffen, die eine gemeinsame Frage von sehr unterschiedlichen Seiten beleuchten: Wie lässt sich die Leistungsfähigkeit von KI-Systemen steigern, ohne das Basismodell zu vergrößern oder neu zu trainieren? WikiSkill von Google Research zeigt, dass Agenten ihr Wissen in einer persistenten Wissensbasis anhäufen können, aus der heraus sich Skills systematisch weiterentwickeln. Eine Studie aus China und Singapur untersucht Evolution Strategies als Post-Training und findet, dass sie die Reasoning-Vielfalt besser bewahren als das etablierte GRPO. CritICL nutzt die strukturierten Fehlermuster schwacher Modelle als kostengünstige Leitplanken zur Inferenzzeit. Und zwei Arbeiten übertragen das World-Action-Modell-Paradigma auf neue Domänen: GameWAM von Tencent LIGHTSPEED steuert erstmals native Videospiele, Zero-WAM von Robbyant lässt Roboter aus menschlichen Videos lernen. Der gemeinsame Nenner: Fähigkeiten wachsen zunehmend in den Strukturen um das Modell herum – in Wissen, Skills und Trainingsverfahren – statt in der Modellgröße selbst.

WikiSkill: Das Wiki als Gedächtnis der Agenten

Das Problem

Skills sind die modularen Werkzeuge, mit denen sich Agenten Fachwissen aneignen, ohne die Modellgewichte anzufassen: ein Ordner mit Anweisungen, Skripten und Metadaten, den der Agent bei Bedarf lädt. Doch wie entwickelt man solche Skills systematisch weiter? Bestehende Verfahren wie EvoSkill, Trace2Skill oder SkillOpt ziehen ihre Lehren aus Erfolgen und Fehlern einzelner Trainingsläufe – und werfen die Einsichten danach wieder weg. Die Erkenntnisse bleiben über Optimierungshistorien verstreut, statt sich über Iterationen hinweg anzusammeln.

Die Idee: Drei Schichten statt eines Topfes

WikiSkill von Google Research (mit Virginia Tech) trennt den Arbeitsbereich des Agenten deshalb in drei Schichten: eine unveränderliche Raw-Schicht mit den rohen Ausführungsspuren, eine Wiki-Schicht mit strukturiertem, über Iterationen wachsendem Wissen (Fehlermuster, erfolgreiche Strategien, Evolutions-Log) und eine Skill-Schicht mit den aktiven, veränderbaren Skills. Vier Komponenten treiben die Schleife: Der Inference-Agent führt Rollouts mit den aktuellen Skills aus, der Wiki-Maintainer verdichtet die Spuren zu Wissenseinträgen, der Skill-Proposer schlägt Verbesserungen vor – und eine Gating-Instanz validiert jeden Vorschlag auf einem Validierungssplit, mit Rollback bei Verschlechterung. Der entscheidende Unterschied zu früheren Verfahren: Während Skill-Updates zurückgerollt werden können, bleibt das Wiki erhalten und kompoundiert über alle Iterationen.

Ergebnisse: Skills kompensieren Modellgröße

Über fünf Benchmarks (Mathematik, Websuche, Tabellenkalkulation, Langdokument-QA, ALFWorld) und fünf Modelle schlägt WikiSkill durchweg die bisherigen Skill-Evolutions-Methoden. Dabei wächst der Vorteil mit der Modellgröße: Innerhalb der Qwen-Familie verbessert WikiSkill die durchschnittliche Genauigkeit um 12,3 Prozent (4B), 17,5 Prozent (9B) und 23,9 Prozent (27B). Noch bemerkenswerter: Evolvierte Skills können Modellskalierung teilweise ersetzen. Qwen-3.5-9B mit WikiSkill erreicht 47,4 Prozent – und übertrifft damit Qwen-3.6-27B ohne Skills (39,4 Prozent).

Zwei Befunde unterstreichen, dass Skill-Entdeckung und Skill-Ausführung getrennte Fähigkeiten sind: Evolvierte Skills übertragen sich über Modellfamilien hinweg – auf ALFWorld erreicht Qwen-3.5-9B mit einem von Qwen-3.6-27B entwickelten Skill 70,2 Prozent, mit dem selbst entwickelten nur 63,4 Prozent. Und Skills, die ein anderes Modell evolviert hat, können selbst-evolvierte Skills schlagen. Die Ablationsstudie bestätigt: Ohne die persistente Wissensbasis kollabiert der Vorteil – das Wiki ist der kritische Baustein.

Evolution Strategies vs. GRPO: Mehr Reasoning-Coverage

Hintergrund

Post-Training ist der Engpass moderner Reasoning-Modelle – und GRPO (Group Relative Policy Optimization) das dominierende Verfahren. Evolution Strategies (ES) gelten als vielversprechende, speichereffiziente Alternative: Statt Rückwärtspropagation werden Parameter gestört, die gestörten Modelle vorwärts ausgewertet und die Ergebnisse reward-gewichtiert zum Update aggregiert. Ein Team aus SUSTech, NUS, Huawei Noah's Ark Lab, CityU Hongkong und HIT Weihai hat nun systematisch untersucht, wie sich ES und GRPO eigentlich unterscheiden – mit drei klaren Befunden.

Befund 1: GRPO kollabiert, ES bleibt divers

GRPO berechnet pro Promptgruppe die response-level Advantage

$$\hat{A}_i = \frac{r_i - \bar{r}_G}{s_G}$$

und trainiert alle Token mit derselben Advantage. Das führt zu einem bekannten Problem: dem Entropie-Kollaps. Für eine Softmax-Policy gilt näherungsweise

$$\Delta H(s) \approx -\eta_{PG},\mathrm{Cov}(\log p_a,; p_a A_a)$$

– bekommen wahrscheinliche Aktionen positive Advantages, sinkt die Entropie und damit die Antwortvielfalt. In der Studie zeigt sich das empirisch: Nach GSM8K-Post-Training fällt bei GRPO die Token-Entropie auf GPQA deutlich, und Pass@16/Pass@32 landen unterhalb des Basismodells – in 15 von 18 Vergleichen der „Easy Setting“-Konfigurationen. ES dagegen verbessert Pass@1 und Pass@K, ohne Entropie-Kollaps. Theoretisch zeigen die Autoren, dass die verifier-projizierte Jensen-Shannon-Diversität über die ES-Population höhere Pass@K-Werte begünstigt.

Die beiden Paradigmen lassen sich sogar kombinieren: Eine sequenzielle Mischung ES→GRPO (erst ES, dann GRPO) erreicht auf den Mathematik-Benchmarks des Hard Settings den höchsten Pass@32 (79,2 Prozent) und behält dabei den Großteil des GRPO-Pass@1-Vorteils. Die Pareto-Fronten zeigen: GRPO ist stark bei K=1, ES bei großem K – die Mischung erbt von beiden.

Befund 2 & 3: Kein Katastrophen-Vergessen, klare Regeln

Trotz erheblicher Parameterdrift verursacht ES kein Katastrophen-Vergessen: Die aufgabenrelevanten Effekte konzentrieren sich auf eine sparse Teilmenge der Updates mit großer Magnitude – große Parameterbewegung bedeutet nicht zwangsläufig weitreichende Funktionsänderung. Und für die Praxis: Z-Score-Reward-Normalisierung ist entscheidend, der bei zeroth-order-SFT beliebte Zwei-Punkt-Schätzer bringt bei Reasoning nichts, und größere Modelle brauchen kleinere Populationen. Das Fazit der Autoren: ES ist ein eigenständiges Reasoning-Post-Training-Paradigma, keine blasse, speichersparende GRPO-Kopie.

CritICL: Die Fehler der Kleinen als Leitplanken für die Großen

Die Idee

Test-Time-Scaling verbessert Reasoning durch wiederholtes Generieren und Verifizieren – zu Preisen, die schnell explodieren: Selbst-Consistency braucht bis zu sieben Generationen, LLM-as-a-Judge zusätzlich ein starkes Prüfmodell. Das Team von Ohio State und Princeton fragt: Kann man die gleichen Gewinne mit einer einzigen Generation erzielen? Ihre Beobachtung: Fehlermuster sind strukturiert und über Modellgrößen hinweg konsistent. Die relative Verteilung der Fehlermodi eines 72B-Modells der Qwen-Familie stimmt weitgehend mit der eines 1,5B-Modells derselben Familie überein – kleine und große Modelle stolpern über dieselben Denkfallen, nur unterschiedlich oft.

Zwei-Stufen-Framework

In Stufe 1 wird offline ein CritBank aufgebaut: Kleine Modelle bearbeiten 15.000 Fragen aus GSM8K und MATH, ein Frontier-LLM erstellt zu den falschen Antworten Kritiken und vergibt Fehlermodus-Labels (etwa „Problem missverstanden“, „falsche Annahme“, „falsche Formel“, „Einheitenfehler“). In Stufe 2 gibt es zwei Varianten: CritICL-static baut aus CritBank ein modellfamilien-spezifisches Fehlermodus-Profil und retrievt dazu passende Kritiken; CritICL-dynamic lässt das Zielmodell pro Eingabe bis zu fünf wahrscheinliche Fehlermodi vorhersagen und wählt darauf basierend Beispiele aus.

Ergebnisse: Konkurrenzfähig zu Test-Time-Scaling – zu einem Bruchteil der Kosten

Auf Qwen2.5-32B erreicht CritICL-static 49,8 Prozent Pass@1 und übertrifft damit den stärksten Test-Time-Scaling-Baseline (Consistency@7) um 0,3 Punkte – mit einer einzigen Generation. Auf Qwen2.5-72B sind es 59,2 Prozent, ebenfalls Bestwert vor Consistency@5 (59,0 Prozent). Die Token-Rechnung fällt deutlich aus: CritICL benötigt insgesamt 3.768–3.897 Tokens pro Frage, Test-Time-Scaling-Methoden 4.192–7.533. Selbst die Ausgabe wird knapper (296 statt 308 Tokens) – die Kritiken führen das Modell offenbar direkter zur Lösung. Der Clou: Das gesamte Wissen stammt aus schwachen Modellen, die jeder ohnehin im Regal hat.

GameWAM: Das erste World-Action-Model für native Videospiele

Das Problem

Videospiele kombinieren Egoperspektive, schnelle visuelle Wechsel, persistenten Weltzustand und heterogene native Eingaben – ein Härtetest für Steuerungsmodelle. Bisherige Ansätze haben eine Lücke: VLA-artige Policies („Vision-Language-Action“) bilden Kontext direkt auf Aktionen ab, modellieren aber keine Weltdynamik; interaktive Weltmodelle sagen zwar die visuelle Zukunft voraus, brauchen dafür aber von außen gelieferte Aktionen und sind keine Task-Policies. World-Action Models (WAMs) vereinen beides – bisher aber fast nur für Tisch-Robotik. GameWAM (Fudan, Tencent LIGHTSPEED, Tsinghua) ist nach Angaben der Autoren das erste WAM für natives, geschlossenes Gameplay und GUI-Steuerung.

Architektur: Zwei generative Prozesse, ein Router

GameWAM erzeugt zukünftige Bildbeobachtungen und ausführbare Tastatur-Maus-Trajektorien parallel – über einen Video-DiT und einen Action-DiT mit Block-Causal-Conditioning und Flow Matching. Die Herausforderung „heterogene Steuerung“ löst ein Per-Step-Router: Gameplay- und GUI-Interaktion nutzen dieselben physischen Kanäle, haben aber unterschiedliche Verteilungen (Kamerabewegung vs. Cursor); das Modell sagt pro Zeitschritt einen Modus voraus und nutzt modusspezifische Verteilungen mit separater Normalisierung:

$$\hat{r}\tau = \mathbb{1}[\mathrm{sigmoid}(\rho\tau) > \tfrac{1}{2}], \qquad \hat{U}^a_\tau = (1-\hat{r}\tau),\hat{U}^{a,\mathrm{game}}\tau + \hat{r}\tau,\hat{U}^{a,\mathrm{gui}}\tau$$

Für die Langzeitinteraktion gilt das Prinzip „Plan lang, committe kurz“: Das Modell plant $P$ Aktionen, führt nur die ersten $E < P$ aus und replant von der neuen Beobachtung aus. Eine hierarchische Historie – transiente Cycle-KV-Cache, Conv3D-komprimierte Recent History und attention-gepoolte Long-Term-Memory-Slots – erhält die zeitliche Kontinuität über Zyklen hinweg.

Befunde

GameWAM erreicht wettbewerbsfähige Task-Erfolgsraten – mit weniger ausgeführten nativen Aktionen als verglichene Agenten. Daneben fördert das Paper einen interessanten Fehlermodus zutage: LASI (Low-Frequency Action Source Imprinting). Niederfrequente Komponenten der gesampelten Aktionsquelle steuern unter fixierter Konditionierung systematisch die grobe Kamerabewegung – generative Steuerung ist also empfindlich gegen die „Quelle“ des Rauschens, ein bislang unbeachtetes Artefakt generativer Policies.

Zero-WAM: Roboter lernen aus menschlichen Videos im Kontext

Die Idee

Was In-Context-Learning für Sprachmodelle ist, will Zero-WAM für Roboter sein: Eine Aufgabe, die das Modell nie gesehen hat, wird nicht durch Training, sondern durch Spezifikation im Kontext lösbar – und die natürliche Spezifikation für Manipulation ist ein menschliches Video, nicht Sprache. Ein menschliches Video zeigt direkt, wie sich die Szene entwickeln soll – räumliche Constraints, Zwischenzustände, zeitliche Struktur –, auch wenn es keine ausführbaren Roboteraktionen enthält.

Daten und Training

Damit daraus ein lernbares Paradigma wird, mussten zwei Probleme gelöst werden. Erstens die Datenknappheit: Eine automatische Pipeline verwandelt aufgabensampelte Robotertrajektorien in semantisch passende menschliche Videos – daraus entsteht HumanGen, ein Datensatz mit 74.200 Mensch-Roboter-ICL-Paaren über 8.600 Aufgaben. Dazu kommt ein aufgabenbalancierter Video-Action-Pretraining-Korpus („Task-diverse VA“, rund 400.000 Trajektorien pro Epoche), der verhindert, dass das Pretraining von wenigen teleoperierten Aufgaben dominiert wird. Zweitens das Shortcut-Problem: Ein Modell, das die nächste Videosequenz auch aus der eigenen Historie vorhersagen kann, lernt das menschliche Video zu ignorieren. Das neue IFP-Objektiv (In-Context Future Chunk Prediction) supervidiert deshalb mehrere gestridete Zukunfts-Chunks aus der aktuellen Video-Repräsentation – und zwingt die Policy, die Aufgabeninformation tatsächlich aus dem Videoprompt zu ziehen.

Ergebnisse

In der RoboTwin-2.0-Simulation erreicht Zero-WAM auf sieben ungesehenen Aufgaben eine durchschnittliche Erfolgsrate von 47,0 Prozent – ein absoluter Sprung von 29,5 Prozentpunkten gegenüber dem stärksten Video-Action-Baseline. In der Realwelt folgt das System menschlichen Videovorgaben bei ungesehenen Aufgabenkonfigurationen mit Mehrfachobjekt-Szenen, langen Manipulationsketten und feingranularen Insertionen. Der Befund ist ein Plädoyer: Die nächste Stufe der Robotergeneralisierung könnte weniger von größeren Roboterdatensätzen kommen als von der klugen Nutzung menschlicher Videos als Kontext.

Fazit

Die fünf Arbeiten zeigen ein Feld, das Können zunehmend außerhalb der Modellgewichte sucht: persistente Wissensstrukturen, aus denen Skills wachsen (WikiSkill), Trainingsparadigmen, die Vielfalt statt Kollaps belohnen (Evolution Strategies), billige Leitplanken aus Fehlermustern zur Inferenzzeit (CritICL) und Weltmodelle, die Wahrnehmung und Handlung in einem generativen Prozess vereinen (GameWAM, Zero-WAM). Zusammengenommen lautet die Botschaft: Die nächsten Effizienzsprünge kommen weniger vom nächsten, größeren Checkpoint als von den Strukturen, die wir um die Modelle herum bauen – und von einer ehrlicheren Messung dessen, was Training und Inferenz tatsächlich verändern.

Quellen: WikiSkill – arXiv 2608.27454 · Understanding Evolution Strategies for LLM Reasoning – arXiv 2608.27351 · CritICL – arXiv 2608.27455 · GameWAM – arXiv 2608.26200 · Zero-WAM – arXiv 2608.26103