OpenAI Control Room: systém dokáže zastaviť AI výstup do 35 sekúnd od rozhodnutia
Čo sa stalo
OpenAI 10. novembra 2026 zverejnil detaily o Control Room, internom systéme na monitorovanie a zastavenie AI výskumných workloadov. Systém je navrhnutý tak, aby fungoval aj pri vlastnom výpadku — ak monitorovanie zlyhá, model sa automaticky zastaví.
Kontext a dopad
Control Room prichádza v čase, keď sa AI labs čoraz viac spoliehajú na autonómne agentové systémy pre vlastný výskum. Je to priama odpoveď na obavy o nekontrolované AGI výskumné smyčky. Fail-safe design (stop-on-failure) je významným princípom bezpečnostného dizajnu.
Detaily
- Reakčný čas: 35 sekúnd od rozhodnutia po zastavenie výstupu
- Fail-safe: zastavenie aj pri výpadku monitorovacieho systému
- Pokrýva: AI výskumné workloady (nie produkčné modely)
- Súčasť stratégie OpenAI pre kontrolovaný AGI vývoj
Otvoriť pôvodný zdroj
OpenAI