PrismML vydal Bonsai 27B — prvý 27B model spustiteľný priamo na iPhone
Čo sa stalo
PrismML (podporovaný Khosla Ventures a Google, zakladatelia z Caltechu) vydal 14. júla 2026 model Bonsai 27B — prvý 27B-parametrový model schopný bežať priamo na mobilnom telefóne. Apple podľa správ technológiu aktívne vyhodnocuje.
Kontext a dopad
Doteraz boli 27B modely vyhradené výhradne pre serverové prostredie. Bonsai 27B prináša frontier-class schopnosti (kódovanie, reasoning, agentické workflow, vision) priamo na zariadenie bez nutnosti cloudového pripojenia. Open-source licencia Apache 2.0 umožňuje komerčné nasadenie bez poplatkov.
Detaily
- 1-bit varianta: 3,9 GB, 11 tokenov/s na iPhone 17 Pro, zachováva 90 % výkonu plnej presnosti
- 1,58-bit ternárna varianta: 5,9 GB, zachováva 95 % výkonu plnej presnosti
- Kontextové okno: 262 000 tokenov
- Schopnosti: text, kód, vision, štruktúrované tool calling, reasoning
- Licencia: Apache 2.0 — zadarmo pre komerčné aj nekomerčné použitie
- Základ: postavený na Qwen3.6 27B
Otvoriť pôvodný zdroj
PrismML