Ring-Zero: Zero RL škálovaný na 1 bilión parametrov — 5 emergentných schopností vrátane context anxiety

Čo sa stalo

Výskumníci z Renmin University, Ant Group, Tsinghua University a Zhejiang University zverejnili paper Ring-Zero (arXiv 2607.12395) — prvé úspešné škálovanie zero RL na 1 bilión parametrov. Model nemal žiadne ľudské anotácie a napriek tomu vzniklo 5 emergentných schopností.

Kontext a dopad

Zero RL (RL priamo na surový base model bez supervised fine-tuning fázy) sa považovalo za nepoužiteľné pri tak veľkých modeloch. Ring-Zero ukazuje, že pri dostatočnej škále schopnosti vznikajú spontánne. Dôležitý výsledok pre pochopenie budúceho trénovania AGI-level systémov.

Detaily

• Zero RL škálovaný na 1 bilión parametrov — prvýkrát v histórii
• 5 emergentných schopností: self-verifikácia, paralelné uvažovanie, štruktúrované formátovanie, antropomorfický naratív, context anxiety
• Context anxiety: model aktívne monitoruje a obmedzuje spotrebu kontextového okna v reálnom čase
• Preskočenie celej SFT fázy — žiadne ľudské step-by-step anotácie
• Potvrdzuje hypotézu: emergencia nie je závislá na ľudskom labellovaní pri dostatočnej škále