Simon Willison: Kto sa bojí čínskych modelov? — Fair use pri AI distilácii a Qwen 3.8 filtering logic

Hlavná myšlienka

Willison analyzuje dve témy: Ben Thompsonov právny rámec pre fair use pri AI tréningu/distilácii modelov, a pozoruhodný technický detail z Alibaba Qwen 3.8 — model mal pri generovaní obrázkov v reasoning trace úvahy ako 'Could add helmet? No', čo naznačuje content filtering zabudovaný priamo do myšlienkového procesu modelu.

Kontext

Post reaguje na čerstvé vydanie Qwen 3.8 Max ako open-weight modelu a prebiehajúcu debatu o legal rámcoch pre AI tréning cez modelovú dístiláciu. Qwen 3.8 detail je pozoruhodný, lebo naznačuje, že čínske modely majú content filtering zabudovaný do reasoning chain — nie len do output layer.

Prečo to stojí za pozornosť

Qwen 3.8 reasoning trace detail je technicky fascinujúci: naznačuje, že content filtering môže byť implementovaný v reasoning phase (nie len post-processing), čo má dôsledky pre jailbreak resistenciu aj interpretabilitu. Thompson fair use rámec je relevantný pre legálne tímy AI firiem riešiacich otázky model distillácie.

Detaily / argumenty

• Ben Thompson: distilovaný model z iného modelu by mal byť fair use (podobne ako hudobný cover)
• Qwen 3.8 reasoning trace: 'Could add helmet? No' počas generovania obrázka
• Interpretácia: content filtering zabudovaný do reasoning, nie len do output vrstvy
• Alibaba Qwen 3.8 vydaný ako open-weight — strategický krok po Kimi K3 launch