Sebastian Raschka: ako nahradiť Claude Code a Codex predplatné lokálnymi open-weight modelmi

Hlavná myšlienka

Lokálne coding harnesses s open-weight modelmi sú dnes dostatočne dobré, aby nahradili väčšinu denného Claude Code / Codex workflow. Raschka demonštruje konkrétny stack a benchmarky.

Kontext

Esej prichádza presne v čase, keď Anthropic retiroval Sonnet 4 a Opus 4 na API a GitHub Copilot oznámil deprekáciu Opus 4.6 fast — viacero čitateľov požiadalo o návod, ako zmierniť vendor lock-in. Raschka v paralele s Doubleword analýzou ('medzera medzi open a closed sa zmenšuje') a Marble blogom ('minimálne riziko pri prechode na open models') tvrdí, že stojí za to investovať čas teraz.

Prečo to stojí za pozornosť

Pre ML inžinierov a indie developerov je to konkrétne howto — nie marketing. Pre tech-lead-ov je to argument do diskusie 'sponzorujme self-hosted alternatívu vedľa enterprise predplatného'. Raschka má reputáciu, že benchmarky neulieva.

Detaily / argumenty

• Open-weight modely v lokálnom harness dosiahnu ~80-90 % kvality Claude Code na bežné úlohy
• Náklady: jednorazová investícia do GPU sa amortizuje za niekoľko mesiacov pri pravidelnom použití
• Hlavná medzera ostáva pri long-horizon agentic úlohách a multi-file refactor
• Stack: lokálne LLM serving + harness + MCP-kompatibilné nástroje