Anthropic navrhla zákon: vláda môže blokovať AI model pri riziku 50+ obetí

Čo sa stalo

Anthropic predložila návrh federálneho zákona o bezpečnosti AI, ktorý by umožnil vláde blokovať vydanie modelu súdnou cestou. Politico o návrhu informoval ako prvý, Anthropic ho potvrdil.

Kontext a dopad

AI laboratóriá doteraz uprednostňovali dobrovoľné záväzky. Toto je prvýkrát, čo major AI lab formálne navrhol zákon s povinným vymáhaním cez federálny súd. Prah 50 obetí je podobný ako v kalifornskom SB 53.

Detaily

• Riziko musí pochádzať z biologickej zbrane, obchádzania kontrolných mechanizmov modelu alebo kyberútoku
• Nezávislí hodnotitelia registrovaní pri Commerce Department posudzujú modely
• Pri náleze rizika: 72 hodín na oznámenie; Commerce žiada súd v DC o pozastavenie
• Žiadna agentúra nemôže zastaviť distribúciu samostatne — vždy cez súd
• Nvidia CEO Jensen Huang argumentoval, že nové AI zákony nie sú potrebné