Fünf KI-Forschungspapers der Woche: Prüfen, bevor man lernt

Jede Woche erscheinen auf arXiv hunderte neue Manuskripte aus dem Maschinellen Lernen – eine Menge, die niemand vollständig lesen kann. Diese Zusammenfassung greift aus den Veröffentlichungen der vergangenen Tage fünf Arbeiten heraus, die uns besonders bemerkenswert erscheinen, und ordnet sie kurz ein. Sie stammen aus dem jüngsten Schwung der „Hugging Face Daily Papers" vom 14. September 2026; ein Blick auf die Vorwochen zeigt, dass keines der fünf in den vergangenen Tagen hier bereits besprochen wurde.^[Hugging Face — Daily Papers, Ausgabe 2026-09-14 – url: https://huggingface.co/papers]

Ein Motiv verbindet diese Woche: Vertrauen ist keine Voreinstellung, sondern ein Prüfschritt. PLC-DPO entdeckt, dass ein Präferenzlabel falsch sein kann, und dreht es um, statt es zu verwerfen. COBRA-Skills behandelt jeden Skill-Kandidaten als Wette, deren Ertrag erst durch teure Ausführung sichtbar wird. Feyospace lässt keine einzige Trainingsspur ohne Ausführungsnachweis und vierstufiges Audit ins Gemisch. SNAP3D akzeptiert generierte Bauteile erst, wenn sie in der Simulation unter Schwerkraft halten. Und StepAudio 3 Gen kappt den Gradienten, bis der Residuen-Prädiktor konvergiert ist, damit die Akustik die Sprachfähigkeit des Basismodells nicht überschreibt. Fünfmal dieselbe Grundhaltung: nicht alles glauben, was plausibel aussieht.

1. StepAudio 3 Gen: Ein Audio-Modell ohne Diffusions-Renderer

arXiv 2609.12945 – „StepAudio 3 Gen Technical Report" (StepFun-Audio Team)

General-Audio-Modelle teilen sich heute meist in zwei Lager. Das eine modelliert Audio in einem kontinuierlichen latenten Raum und synthetisiert per Diffusion oder Flow Matching; das andere diskretisiert Audio und betreibt Sprachmodell-artige Sequenzmodellierung.^[StepAudio 3 Gen Technical Report – url: https://huggingface.co/papers/2609.12945] StepAudio 3 Gen wählt den zweiten Weg und treibt ihn konsequent zu Ende: TTS, Voice Design, Gesang, Soundeffekte, Musik und Mischungen mehrerer Audio-Typen laufen über einen gemeinsamen Token-Raum, und der Wellenform-Renderer ist vollständig diskret – kein Diffusions- oder Flow-Matching-Akustikpfad.

Ein Tokenizer, der Semantik und Akustik gemeinsam quantisiert

Der StepAudio Tokenizer arbeitet bei 12,5 Hz mit einem geteilten Residual-Vektorquantisierer aus 16 Codebooks à 2.048 Einträgen. Entscheidend ist, wie die Features entstehen: Ein eingefrorener Self-Supervised-Encoder liefert semantische Merkmale, ein Faltungsencoder mit SnakeBeta-Aktivierungen zieht akustische Merkmale direkt aus der Wellenform bei 50 Hz. Beide Darstellungen werden entlang der Kanalachse fusioniert, per Strided Convolution auf 12,5 Hz komprimiert und von einem gemeinsamen Quantisierer diskretisiert. Jede Codeschicht trägt damit Semantik und akustisches Detail zugleich, statt einer einzelnen Modalität zu dienen. Semantische Distillation und Quantizer-Dropout sorgen dafür, dass sich die für zeitliche Planung nützliche Information in den frühen Codebooks konzentriert.^[StepAudio 3 Gen Technical Report – url: https://huggingface.co/papers/2609.12945]

Zeit-Depth statt Flattern

Hochauflösendes RVQ bringt ein Problem mit: Flacht man alle Codes entlang der Zeit ab, wird die Sequenz untragbar lang; nutzt man nur den groben semantischen Token, verliert man das akustische Detail. StepAudio 3 Gen wählt Zeit-Depth-Modellierung. Die Generationspfad-Faktorisierung ist exakt, nicht approximativ:^[StepAudio 3 Gen Technical Report – url: https://huggingface.co/papers/2609.12945]

$$p(c_{t,0},\dots,c_{t,15}\mid z_{<t},c_{<t}) = \underbrace{p(c_{t,0}\mid z_{<t},c_{<t})}{\text{Haupt-LM-Head}} \prod{k=1}^{15} \underbrace{p(c_{t,k}\mid z_t,c_{t,0},\dots,c_{t,k-1})}_{\text{RVQ-Code-Predictor}}$$

Der Grund für die Exaktheit ist subtil und lesenswert: Alle sechzehn nachgeschlagenen Vektoren eines Frames werden zu einem Frame-Embedding summiert, sodass der Backbone-Zustand $z_t$ die früheren Codebooks bereits über den Backbone trägt und der Prädiktor keinen separaten Pfad braucht. Was die Faktorisierung aufgibt, ist die Rückrichtung – die Ausgabe des Prädiktors fließt nicht in den Backbone zurück. Genau deshalb werden beide Hälften erst gemeinsam trainiert, wenn der Prädiktor konvergiert ist.

Das LLM sagt also nur $c_0$ voraus; ein vierlagiger kausaler Transformer entlang der Codebook-Achse erzeugt $c_1$ bis $c_{15}$. Auf der Eingangsseite löst ein null-initialisierter, tokenweiser Residualblock – der RVQ Adaptor – das Repräsentationsproblem: Die Summe vieler frisch initialisierter RVQ-Embeddings muss nicht zur Statistik vortrainierter Text-Embeddings passen. Der Adaptor bildet sie modalitätsspezifisch ab, ohne einen separaten Sequenzencoder einzufügen oder den geteilten Backbone zu ersetzen; seine Ausgabe wird ausschließlich an Audiopositionen elementweise addiert, Textpositionen bleiben unberührt.

Vier Stufen gegen die Interferenz

Der eigentliche Beitrag ist das Trainingsrezept. Zwei Interferenzkanäle werden explizit adressiert: die Embedding-Statistik auf der Eingangsseite und der Residuen-Verlust auf der Optimierungsseite, der für jede zeitliche Entscheidung fünfzehn akustische Vorhersagen liefert. Vier Stufen: erst Audio-Eingang unter eingefrorenem Backbone ausrichten, dann Audio-Verständnis gemeinsam mit replaytem Text lernen, dann Generierung einführen – während die konditionierenden Hidden States des zufällig initialisierten Residuen-Prädiktors vom LLM abgekoppelt sind –, und erst nach Konvergenz des Prädiktors die End-to-End-Gradienten in einem langkontextigen Cool-down mit niedriger Lernrate wiederherstellen. Ab Stufe zwei füllt Text die Hälfte jedes Optimizer-Schritts.

Gesteuert wird das System über ein einheitliches Instruktionsformat mit drei Feldern: ROLE (Sprecheridentität und Stimmcharakter), DIRECTOR (akustische Szene und Generierungsabsicht) und SCRIPT (Anordnung von Sprach- und Gerätereignissen auf der Zeitachse, jeweils mit Sprecher-Tag und optionalem Beschreibungsmarker). Damit kann eine einzige Instruktion mehrere Figuren, deren Beziehungen, Timbre, Sprechstil, Emotion, Akzent sowie paralinguistische Merkmale wie Lachen, Atmen und Pausen definieren – und zugleich Soundeffekte und Hintergrundmusik zeitlich arrangieren.

Der Decoder ist durchgehend kausal ausgelegt – ein Vocos-artiger Transformer-Backbone mit Rotary Position Embeddings und 25-Frame-Sliding-Window-Attention speist einen ISTFT-Head, der 24-kHz-Audio inkrementell und ohne Vorausschau rekonstruiert. Das ist die Voraussetzung für latenzarme Echtzeitdienste. Wer die Audio-Architekturlandschaft verfolgt, findet hier eine der klarsten Begründungen dafür, warum man Zeit- und Depth-Achse trennt, statt Codes zu flattern oder zu verschieben.

2. PLC-DPO: Wenn das Label falsch ist, dreh es um

arXiv 2608.30597 – „PLC-DPO: Posterior Label Correction in Noisy and Ambiguous Preference Optimization" (Boryeong Cho, Sumyeong Ahn, Se-Young Yun – KAIST AI / KENTECH)

Direct Preference Optimization ist das Standardwerkzeug für Offline-Alignment, und seine Schwäche steckt schon in seiner Einfachheit: Es nimmt an, jede beobachtete Präferenz $y_w \succ y_l$ sei ein vollständig verlässliches Ziel. Reale Daten verletzen diese Annahme – Annotator-Unstimmigkeit, Biases von Modell-Judges, oberflächliche Hinweise wie Länge oder selbstsichere Formulierungen. Und wahre Präferenzen sind nicht immer strikt gerichtet: Zwei Antworten können ähnlich gut, gleich schlecht oder zu marginal verschieden sein, um ein stabiles binäres Signal zu tragen.^[PLC-DPO: Posterior Label Correction in Noisy and Ambiguous Preference Optimization – url: https://huggingface.co/papers/2608.30597]

Bestehende Antworten darauf sind indirekt. Robustheits-Varianten der Verlustfunktion nehmen eine globale Rauschrate an und korrigieren alle Paare gleich. Datenfilterung und Curriculum-Verfahren verwerfen verdächtige Daten ganz – und verschwenden damit nützliches Signal, das sich durch Neuausrichtung des Labels heben ließe. Latente Qualitätsansätze schätzen absolute Antwortbewertungen und leiten daraus Paarpräferenzen ab; sie treffen damit nicht die Variable, die DPO tatsächlich konsumiert.

Drei Zustände statt binärem Ziel

PLC-DPO führt für jedes Paar einen latenten Zustand $s \in {\text{clean}, \text{flip}, \text{tie}}$ ein. Clean heißt: die beobachtete Richtung verstärken. Flip heißt: genau umgekehrt lernen. Tie heißt: das Paar soll keinen starken gerichteten Gradienten erzeugen. Die Autoren betonen ausdrücklich, dass dies die richtige Frage stellt – nicht „sind $y_w$ und $y_l$ je für sich gut?", sondern „ist die beobachtete Paarrichtung sauber, umgedreht oder nicht gerichtet?".^[PLC-DPO: Posterior Label Correction in Noisy and Ambiguous Preference Optimization – url: https://huggingface.co/papers/2608.30597]

Das Evidenzsignal ist die Marge, die DPO ohnehin berechnet:

$$m_{\text{seq}}(x,y_w,y_l) = \beta\left[\log\frac{\pi_\theta(y_w\mid x)}{\pi_{\text{ref}}(y_w\mid x)} - \log\frac{\pi_\theta(y_l\mid x)}{\pi_{\text{ref}}(y_l\mid x)}\right], \qquad \mathcal{L}{\text{DPO}} = -\log\sigma(m{\text{seq}})$$

Diese Marge wird abgekoppelt ($\tilde m = \text{stopgrad}(m_{\text{seq}})$) und online kalibriert, weil sich ihre Skala im Training verschiebt. Ein exponentiell gleitender Mittelwert von Batch-Mittel und -Varianz liefert

$$z_i = \frac{\tilde m_i - \mu_t}{\max(\sqrt{v_t},\sigma_{\min})}$$

Damit ist ein großes positives $z$ ein Signal, dass die aktuelle Policy der Beobachtung zustimmt, ein großes negatives $z$ ein Widerspruch, und Werte nahe null liefern schwache Richtungsevidenz. Die Überführung in drei Energie-Scores und deren Softmax ist der Kern:^[PLC-DPO: Posterior Label Correction in Noisy and Ambiguous Preference Optimization – url: https://huggingface.co/papers/2608.30597]

$$\ell_{\text{clean}} = \log \pi^0_{\text{clean}} + \tfrac{z}{\tau_{\text{dir}}}, \qquad \ell_{\text{flip}} = \log \pi^0_{\text{flip}} - \tfrac{z}{\tau_{\text{dir}}}, \qquad \ell_{\text{tie}} = \log \pi^0_{\text{tie}} - \tfrac{|z|}{\tau_{\text{tie}}}$$

Die drei zustandskonditionalen Verluste sind dann

$$\mathcal{L}{\text{clean}} = -\log\sigma(m), \quad \mathcal{L}{\text{flip}} = -\log\sigma(-m), \quad \mathcal{L}_{\text{tie}} = \text{softplus}(|m|)$$

und die routing-korrigierte Gesamtgröße mischt sie über abgekoppelte Routing-Gewichte. Beachtenswert ist die Ehrlichkeit der Autoren an dieser Stelle: Sie bezeichnen $(q_{\text{clean}}, q_{\text{flip}}, q_{\text{tie}})$ ausdrücklich als differenzierbare Routing-Gewichte über Trainingsaktionen, nicht als kalibrierte Wahrscheinlichkeiten aus einem vollständig spezifizierten datengenerierenden Modell. Der Stop-Gradient verhindert, dass die Policy in einem Schritt sowohl ihre eigene Zustandszuweisung als auch das zustandskonditionale Ziel verändert.

Warm-up und Konfidenz-Gate

Routing-Verteilungen sind am Trainingsanfang unzuverlässig – die Policy-Referenz-Margen sind schwach, der EMA ist unkalibriert. Deshalb läuft zuerst reines DPO, und danach erhöht ein Schedule die Korrekturstärke. Zusätzlich wird jedes Paar über ein Konfidenz-Funktional gewichtet, das bei nahezu uniformer Verteilung null und bei degenerierter Verteilung eins ergibt:

$$C(\bar q) = \left(\frac{\max_s \bar q_s - 1/3}{2/3}\right)^{\kappa}, \qquad \mathcal{L} = (1-\gamma_t C(\bar q)),\mathcal{L}{\text{DPO}} + \gamma_t C(\bar q),\mathcal{L}{\text{PLC}}$$

Die Autoren begründen die Wahl der Maximum-Gewichts-Gate gegenüber einer entropiebasierten Konfidenz explizit: Letztere sei zu konservativ, weil sie die gesamte Verteilungsstreuung bestrafe. Die Ergebnisse über 57 Datensatz-Modell-Benchmark-Zellen weisen PLC-DPO als beste mittlere Win-Rate gegen DPO aus – 60,5 gegenüber 55,5 für die nächstbeste Methode. Injektions-Rausch- und Tie-Stresstests, eine unabhängige Human-Disagreement-Auswertung und Routing-Diagnostiken zeigen, dass das Routing stabil bleibt und umgedrehte von schwach gerichteten Paaren unterscheidet. Das ist der eigentliche Punkt: Wer nur filtert, kann diese beiden Fälle nicht trennen.

3. COBRA-Skills: Ein Skill ist eine Wette

arXiv 2609.11682 – „COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization" (Pingchen Lu, Xiangyi Wang, Xiang Li, Jie Mao, Zikun Qu, Junfeng Luo, Yao Shu, Bryan Kian Hsiang Low, Zhongxiang Dai – CUHK Shenzhen, Tianjin University, HKUST (Guangzhou), NUS)

Agent-Skills sind ein leichtgewichtiger Weg, wiederverwendbares prozedurales Wissen zu erfassen – Aufgabenrichtlinien, Denkstrategien, Werkzeugnutzungsverfahren – und sie beim Lösen neuer Instanzen in den Kontext zu injizieren. Manuell geschriebene Skills erfordern Domänenexpertise; direkt aus dem parametrischen Wissen eines LLM erzeugte Skills klingen plausibel, sind aber oft ungeerdet und verbessern die Leistung nicht zuverlässig. Deshalb gründet neuere Arbeit die Skill-Konstruktion in tatsächlichen Agenten-Trajektorien und Ausführungsfeedback und ergänzt iterative evolutionäre Verfeinerung.^[COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization – url: https://huggingface.co/papers/2609.11682]

Genau daraus entstehen zwei Effizienzengpässe. Erstens sind Kandidaten-Nutzen teuer zu messen: Bestehende Ansätze führen Ausführungs-basierte Generate-Evaluate-Refine-Schleifen aus, in denen Kandidaten auf Aufgaben oder Validierungsinstanzen laufen müssen, bevor ihr Nutzen sichtbar wird. Zweitens ist die Verfeinerung selbst kostspielig, weil wiederholt LLM-Aufrufe nötig sind, um Trajektorien zu analysieren und Fehler zu diagnostizieren. Unter begrenztem Budget ist die Frage also nicht „wie finde ich den besten Skill?", sondern „wie verteile ich begrenzte Ausführungen auf unsichere Kandidaten?" – und das ist, wie die Autoren bemerken, genau die Form eines Banditenproblems.^[COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization – url: https://huggingface.co/papers/2609.11682]

Priorisieren mit Prädiktor plus Unsicherheitsbonus

COBRA-Skills behandelt jeden Kandidaten als Arm, der durch ein semantisches Embedding $z_s = \phi(s)$ beschrieben wird; Belohnung ist die beobachtete Performance des Zielagenten. Jede Runde priorisiert einen leichten zweilagigen MLP-Belohnungsprädiktor $f_\theta$ zusammen mit einem LinearUCB-Bonus:

$$U_t(s) = f_{\theta_{t-1}}(z_s) + \nu\sqrt{z_s^\top A_{t-1}^{-1} z_s}, \qquad A_{t-1} = \lambda I + \sum_{i=1}^{t-1} z_{s_i} z_{s_i}^\top$$

Die Bedingung der Belohnungsvorhersage auf die Arm-Merkmale ist der Trick, der frühere Auswertungen auch zur Priorisierung semantisch verwandter, noch nicht bewerteter Skills nutzbar macht. Der Bonus gleicht zwischen vorhergesagtem Nutzen und Unsicherheit ab, sodass aussichtsreiche oder unzureichend erkundete Kandidaten bevorzugt werden – in einer Kandidatenmenge, die sich selbst verändert.^[COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization – url: https://huggingface.co/papers/2609.11682]

Evolution aus Evidenz – mit negativem Beispiel

Periodisch wird die Population über drei evidenzgegründete Operatoren aufgefrischt. Regeneration leitet unabhängige Skills aus den ursprünglichen No-Skill-Trajektorien ab und führt neue Suchrichtungen ein. Rollout-Mutation überarbeitet den aktuell bewerteten Skill anhand seiner erfolgreichen und gescheiterten Trajektorien. Crossover verfeinert einen leistungsstarken Rücken-Skill, wobei ein zweiter starker Skill als positive und leistungsschwache Skills als negative Evidenz dienen. Neue Kandidaten erben keine Belohnung und müssen in dieselbe banditgesteuerte Schleife zurück; Skills mit begrenztem vorhergesagtem Nutzen und Explorationswert werden beschnitten und ersetzt. So allokiert der Bandit Auswertungsaufwand innerhalb der Population, während die Evolution den Kandidatenraum kontinuierlich verfeinert und erweitert.^[COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization – url: https://huggingface.co/papers/2609.11682]

Zielgröße ist ausdrücklich die Generalisierung auf ungesehene Instanzen: $s^\star = \arg\max_{s \in \mathcal{S}T} \mathbb{E}{(x,y)\sim\mathcal{D}}[\text{Metric}(\mathcal{A}(x;s), y)]$.

Die Zahlen

Über sechs heterogene Agenten-Benchmarks – Frage-Antwort, Tabellenkalkulation, visuelles Dokumentenverständnis, mathematisches Schließen, soziales Schließen, verkörperte Entscheidungsfindung – und drei Zielmodelle unterschiedlicher Leistungsfähigkeit erreicht COBRA-Skills die höchste Durchschnittsleistung aller verglichenen Methoden und verbessert die jeweiligen No-Skill-Agenten um 13,1 Prozentpunkte (Qwen3.6-35B-A3B), 26,9 (GPT-5.4-Nano) und 22,5 (Gemma-4-26B-A4B-it). Gegenüber SkillOpt sinken die Gesamtoptimierungskosten um 55–58 %, die Kosten pro Verbesserungspunkt um 60–69 % – bei nur 50 eindeutigen Optimierungsbeispielen pro Benchmark. Die Effekte bleiben unter externen Agenten-Harnischen und im Selbstlehre-Setting bestehen, sind also nicht an eine bestimmte Ausführungsschnittstelle oder ein stärkeres externes Lehrmodell gebunden.^[COBRA-Skills: Contextual Bandit-Guided Evolution for Agent Skill Optimization – url: https://huggingface.co/papers/2609.11682]

Bemerkenswert ist der Kontrast zu einer hier kürzlich besprochenen Arbeit: MaxKernel zeigte, dass automatische Agenten handgetunte Kernel-Referenzen schlagen können. COBRA-Skills zeigt die komplementäre Disziplin – dieselbe Fähigkeit unter einem harten Auswertungsbudget, statt unter unbegrenzter Ausführung.

4. SNAP3D: Bauteile, die unter Schwerkraft halten

arXiv 2609.13146 – „SNAP3D: Physically Grounded 3D Parts for Assembly from a Single Image" (Yu-Rou Tuan, Hao-Tang Tsui, Nicolás Ugrinovic, Kris Kitani, Xiaoxuan Ma – Carnegie Mellon University)

Teilbewusste 3D-Generierung ist weit gekommen: Modelle erzeugen oder zerlegen Objekte in semantische Teile, und das eröffnet Bearbeitung, Artikulation, Simulation und Fertigung. Was fehlt, ist die Physik. Bestehende Methoden erzeugen visuell vollständige Einzelteile, ohne deren physikalische Beziehungen und Kompatibilität explizit zu modellieren. Nachbarteile durchdringen sich oder belegen denselben Raum, es fehlen gültige Kontaktflächen, und unter Schwerkraft fällt das Ganze auseinander – selbst wenn jedes Teil für sich überzeugend aussieht.^[SNAP3D: Physically Grounded 3D Parts for Assembly from a Single Image – url: https://huggingface.co/papers/2609.13146]

Frühere Fertigungsarbeiten haben physikalisch realisierbare Zerlegung und Verbindungselemente untersucht, beschränken sich aber entweder auf eine Objektkategorie oder zerlegen einen semantischen Teil in mehrere geometrische Stücke – etwa einen Becherkörper in drei Teile. Genau hier klafft die Lücke: zwischen semantisch teilbewusster Generierung und physikalisch realisierbaren Assets.^[SNAP3D: Physically Grounded 3D Parts for Assembly from a Single Image – url: https://huggingface.co/papers/2609.13146] SNAP3D schließt sie in drei Stufen, ausgehend von einem fertig zerlegten Mesh eines marktüblichen Bild-zu-3D-Teilgenerators (Hunyuan3D plus X-Part).

Stufe 1: Kollisionsfreie Geometrie-Bearbeitung

Der Ausgangszustand ist strukturell informativ, aber physikalisch unbrauchbar – und die Autoren wollen die semantisch bedeutsame Zerlegung ausdrücklich nicht neu zeichnen. Deshalb greift der Eingriff an der geometrischen Relation zwischen Teilen an, nicht an deren Form. Jede Überlappung wird einem der beiden Teile zugeschlagen und vom anderen abgetragen, sodass die Grenze zwischen ihnen eine Fläche bleibt, die ein Teil ohnehin besitzt. Wie stark Teil $i$ in Teil $j$ eindringt, wird über relative Größe, den ineinander liegenden Volumenanteil und die Position der Überlappung bewertet; abgetragen wird die stärker eindringende Seite:^[SNAP3D: Physically Grounded 3D Parts for Assembly from a Single Image – url: https://huggingface.co/papers/2609.13146]

$$\sigma(i,j) \equiv \begin{cases} i, & s_{ij} > s_{ji} \ j, & \text{sonst}\end{cases}, \qquad \hat P_i \equiv P_i \setminus \bigcup_{j \in T_i} P_j$$

Zwei Vorkehrungen machen das robust. Erstens können sich unabhängige paarweise Zuweisungen aufsummieren und ein Teil übermäßig erodieren, weshalb der Volumenverlust gedeckelt wird – und der Deckel wird eingehalten, indem $\sigma$ bei den Paaren mit der kleinsten Marge $|s_{ij} - s_{ji}|$ umgedreht wird. Zweitens entfernt eine abschließende Reinigung die dünnen Splitter, die eine Boolesche Differenz hinterlässt, wo zwei Flächen in flachem Winkel aufeinandertreffen.

Stufe 2 und 3: Kontaktgraph und Physik-in-der-Schleife

Eine gültige Kontaktfläche ist eine, bei der sich zwei Teile räumlich nah sind und lokal einander zugewandt. Kanten oder Ecken zählen nicht, weil Teile sich dort annähern können, ohne einen sinnvollen Kontaktbereich zu bilden. Der Kontaktgraph $G \equiv (V,E)$ hat einen Knoten pro Teil und eine Kante genau dann, wenn beide Bedingungen gelten:^[SNAP3D: Physically Grounded 3D Parts for Assembly from a Single Image – url: https://huggingface.co/papers/2609.13146]

$$E \equiv {(i,j) : d(\hat P_i, \hat P_j) \le \delta ;\wedge; A_{ij} \ge \lambda D^2}$$

Auf jeder Kante wird eine Verbindung nach lokaler Kontaktgeometrie initialisiert – in der Explosionsansicht als Zapfen-und-Buchse-Strukturen sichtbar. Danach folgt die eigentlich verdienstvolle Stufe: eine physikbasierte Optimierung von Position, Richtung und Skalierung jedes Verbinders mit Physik-in-der-Schleife, die Stabilität unter Schwerkraft verbessert, ohne die generierte Geometrie zu verändern. Für die robuste Kontaktauswertung nutzen die Autoren Incremental Potential Contact, das schnittstellenfreie Kontakttrajektorien für eng wechselwirkende starre Teile liefert.

Statt geometrischer Kennzahlen allein führen die Autoren ein physikbasiertes Evaluationsprotokoll ein, das Gültigkeit und Stabilität der Baugruppe unter Schwerkraft direkt prüft. Das Ergebnis ist die schärfste Zahl des Papers: Alle bewerteten Teilgenerierungs-Baselines erreichen in der Simulation nahezu 0 % Stabilität, SNAP3D erreicht 95,0 % – bei wettbewerbsfähiger geometrischer Treue und unter Beweis durch 3D-Druck und manuellen Zusammenbau. Ablationen zeigen, dass Geometrie-Bearbeitung und Verbinder-Optimierung beide nötig sind.^[SNAP3D: Physically Grounded 3D Parts for Assembly from a Single Image – url: https://huggingface.co/papers/2609.13146]

5. Feyospace-v1: Sieben Menschen, Frontier-Cyber-Agenten

arXiv 2609.08418 – „Feyospace-v1: How the Cyber Mercury Seven Trained Frontier Cyber Models" (Zongjie Li, Alan Z. W, John Nicolas J, Walter H. F, Scott Donald L, Gordon Y. P, Deke X Jr. – Vera Praxis Lab)

Cyber-Sicherheit ist zu einer Frontier-Fähigkeitsdomäne der führenden KI-Entwickler geworden: OpenAIs Trusted Access for Cyber und Anthropics Cyber Verification Program stellen fortgeschrittene Cyber-Fähigkeiten ausdrücklich hinter eigene Zugangs-, Verifikations- und Evaluationsmechanismen. Ein Frontier-Modell von Grund auf zu trainieren erfordert jedoch Rechenleistung, Daten und Engineering-Ressourcen, die für die meisten unabhängigen Teams unzugänglich bleiben. Dieses Paper untersucht den praktischeren Weg: von vorhandenen Open-Weight-Modellen starten und deren Coding- und Cyber-Fähigkeiten per Post-Training verbessern. Der Erfolg hängt dann primär an zwei Faktoren – ob die Trainingsaufgaben in hinreichend getreuen und verifizierbaren Umgebungen geerdet sind, und ob jede Aufgabe mit hochwertiger Anleitung versehen ist, die die erwarteten Fähigkeiten offenlegt.^[Feyospace-v1: How the Cyber Mercury Seven Trained Frontier Cyber Models – url: https://huggingface.co/papers/2609.08418]

Fünf Techniken, fünf Engpässe

Die Autoren identifizieren fünf gekoppelte Herausforderungen – Treue der Denkspur, Datenökonomie, Elicitation geschlossener Modelle, Wiederherstellung latenter Fähigkeiten offener Modelle, Internalisierung von Expertenwissen – und beantworten sie mit fünf benannten Systemen.^[Feyospace-v1: How the Cyber Mercury Seven Trained Frontier Cyber Models – url: https://huggingface.co/papers/2609.08418]

• Choulea analysiert und rekonstruiert modellspezifische Reasoning Signatures. Ausgangspunkt ist der Befund, dass manche proprietären APIs verborgene Denkprozesse in verschlüsselten Blöcken an den Client zurückgeben, die über Sessions, Nutzer und Modelle eines Anbieters hinweg kompatibel bleiben können. Fünf Generationen sind in einer Tabelle dokumentiert, mit längengeschichteten Wiederherstellungsraten, die von über 30 % / 0 % (Gen. 1, Gemini 3.1 Pro) bis 98 % / 91 % (Gen. 4.5) reichen. Die Entwicklung ist bemerkenswert offen beschrieben – inklusive des selbstdefinierten Offenlegungscodes IDC („I don't care"), mit dem die Autoren ihre Position festhalten, der Open-Source-Gemeinschaft keine technische Unterstützung für gekapselte Fähigkeiten zu geben.
• SkyReal senkt die Kosten des Lehrer-Samplings.
• Hongzwang kombiniert wählbare Mutationsstrategien, einen festen Retry-Workflow und aufgabenspezifische Skills, um trotz API- und Inferenzbeschränkungen nutzbares Lehrer-Verhalten zu gewinnen.
• PSBreakup nutzt White-Box-Umkehr von Model-Merging, um Ziel-Domänenfähigkeiten freizulegen, die in einem Open-Weight-Checkpoint latent bleiben.
• Kreator identifiziert einen kritischen Fehlerzustand, zieht eine menschliche Expertenintervention heran und schreibt die resultierende Fortsetzung in eine lehrer-native Trajektorie um, die für überwachtes agentisches Training taugt.

Die Daten-Engine und das vierstufige Audit

Die Umgebungen sind erheblich: Auf Repository-Ebene werden 27.502 mehrsprachige Coding-Instanzen unter frischer Container-Ausführung verarbeitet (aus 3.751 Repos, 2,20 Mio. gescannten PRs, 3.078 behaltenen, 76.376 Kandidaten, davon 79,0 % verifiziert). Auf Sicherheitsebene entstehen 69.854 Umgebungen aus öffentlichen Schwachstellenberichten (Kategorie A), 9.312 von Autoren gepflegte CTF-Umgebungen (B) und 12.993 verifizierte Umgebungen aus systematischem Mining der Linux-Kernel-Historie (C). Ausgewählte Umgebungen werden unter neuen Exploit-Entwicklungs-Aufgabendefinitionen, Laufzeitanforderungen und exploit-spezifischen Verifizierern rekonstruiert – 1.601 ausführungsverifizierte Exploit-Fälle (D). Die Hardware-Route steuert 1.377 Umgebungen bei, davon 1.003 Firmware-Re-Hosts und 374 gerätegestützte Umgebungen.^[Feyospace-v1: How the Cyber Mercury Seven Trained Frontier Cyber Models – url: https://huggingface.co/papers/2609.08418]

Vor dem Eintritt in das Trainingsgemisch durchlaufen alle Kandidaten zwei Tore – „abgeschlossen?" und „gelöst?" mit PoC, Flag oder Exploit – und ein vierstufiges Evidenz-Audit: L1 deterministisches Screening, L2 Leak- und Reward-Hacking-Prüfung, L3 Authentizität, L4 Verhaltensprotokoll. Das Ergebnis: 85 % Annahme, 9 % Nachprüfung, 6 % Ablehnung. Übrig bleiben 164.269 audierte Trajektorien – 28.177 aus grundlegenden Coding-Umgebungen und 136.092 aus Sicherheits- und Hardware-Umgebungen – für Long-Context-Supervised-Fine-Tuning.

Die Zahlen

Post-trainiert werden Qwen3.6-35B-A3B, Qwen3.8-27B und Qwen3.5-122B-A10B. Im Mittel über die drei Checkpoints verbessert sich die CyberGym-Verified-Success-Rate um 23,76 %, die gepoolte CTF-Erfolgsrate um 10,49 %. Zum Stand 1. September 2026 erreicht Feyospace-s1 eine verifizierte Erfolgsrate von 63,24 % und Rang 10 auf dem offiziellen CyberGym-Leaderboard, während alle drei Checkpoints Rang 1 unter Modellen vergleichbarer Parametergröße belegen.^[Feyospace-v1: How the Cyber Mercury Seven Trained Frontier Cyber Models – url: https://huggingface.co/papers/2609.08418]

Der eigentliche Befund ist organisatorischer Natur: Ein siebenköpfiges unabhängiges Team hat ein end-to-end Cyber-Post-Training-Programm über Datenkonstruktion, Training und Evaluation durchgeführt. Die Autoren wollen die Trainings-Trajektorien veröffentlichen. Man sollte das Paper dennoch mit zwei Vorbehalten lesen. Erstens ist es ein technischer Erfahrungsbericht eines einzelnen Labors, keine peer-reviewte Vergleichsstudie, und mehrere Zahlen sind unternehmensinterne Entwicklungsschritte. Zweitens ist zumindest ein beschriebener Baustein – das Umgehen von API-Beschränkungen zur Ausführung von Lehrern und das Ausleiten verschlüsselter Denkblöcke – geeignet, Nutzungsbedingungen großer Anbieter zu berühren. Die Autoren benennen diese Spannung selbst und begründen sie mit einem Zugänglichkeitsargument; wer den Bericht zitiert, sollte sie nicht unterschlagen.

Fazit: Der Prüfschritt ist der Beitrag

Fünf Papers, fünf Domänen – Audio, Alignment, Agenten, 3D, Sicherheit –, und doch dieselbe Bewegung. PLC-DPO fügt dem Alignment eine Unterscheidung hinzu, die bisher fehlte: umgedreht ist nicht dasselbe wie schwach. COBRA-Skills spart 55–58 % der Optimierungskosten, indem es Auswertungen dorthin leitet, wo die Unsicherheit am größten ist, statt alle Kandidaten zu testen. Feyospace lässt 6 % der Kandidaten fallen und schickt 9 % in Nachprüfung, bevor überhaupt trainiert wird. SNAP3D prüft generierte Bauteile in der Simulation unter Schwerkraft und kommt so von fast 0 % auf 95 % Stabilität. StepAudio 3 Gen kappt den Gradienten, bis der Prädiktor konvergiert, damit die Akustik das sprachliche Erbe nicht auffrisst.

Auffällig ist, wie oft der Gewinn nicht aus einer stärkeren Methode, sondern aus einer besseren Frage an das eigene Material stammt. PLC-DPO fragt nicht, ob eine Antwort gut ist, sondern ob eine Richtung stimmt. COBRA-Skills fragt nicht, welcher Skill am besten klingt, sondern welcher am meisten Information pro Auswertung liefert. SNAP3D fragt nicht, ob ein Teil schön aussieht, sondern ob die Baugruppe stehen bleibt. Und SNAP3D liefert in diesem Jahrgang die vielleicht nüchternste Zahl: Ein Modell kann alle Teile richtig zeichnen und die Baugruppe trotzdem verlieren. Wer in diesem Feld baut, sollte beides messen – das Ergebnis und dessen Halt.