Sebastian Raschka: Ako LLM-y kontrolujú intenzítu uvažovania — nízke, stredné a vysoké úsilie

Hlavná myšlienka

Moderné reasoning LLM-y sa trénujú na podporu viacerých úrovní výpočtového úsilia — nízke (rýchla odpoveď), stredné a vysoké (dlhý reasoning chain). Kľúčový záver: menší model s vysokým úsilím môže dosťahnuť väčší model s nízkym úsilím.

Kontext

Post reaguje na súčasnú explóziu reasoning modelov (DeepSeek V4, Qwen3, Inkling od Thinking Machines) a dopyte developerov na pochopenie, kedy thinking mode stojí za extra tokeny.

Prečo to stojí za pozornosť

Pochopenie mechanizmov za kontrolou reasoning úsilia je kľúčové pre ML inžinierov optimalizujúcich náklady — vedomé prepínanie medzi režimami môže znížiť token náklady 10–50x.

Detaily / argumenty

• RLVR (Reinforcement Learning with Verifiable Rewards) je primárna tréninová technika pre reasoning úrovne
• Token-length-penalizujúce reward funkcie nútia model byť stručný pri jednoduchých otázkach
• DeepSeek V4, Qwen3 a Inkling používajú odlišné stratégie: separate specialists vs. mixed training vs. continuous conditioning
• Inference-time scaling a training-time scaling sa navzájom ovplyvňujú, nie sú ortogonálne
• Systémový prompt je najjednoduchší spôsob prepínania režimu