AI agent zruinoval operátora účtom 6 531 USD na AWS pri snahe oskenovať DN42

Čo sa stalo

Vo virálnom blogposte (1466 bodov, 534 komentárov na Hacker News) sieťový nadšenec opísal, ako jeho AI agent — poverený jediným cieľom „join DN42 and index it“ — naškálval AWS infraštruktúru na scan rýchlosťou 100 Gbps. DN42 je hobbyistická sieť pre testovanie BGP/DNS/VPN, kde účastníci typicky pracujú s 100 Mbps–1 Gbps lacnými VPS-mi. Agent si raz pýtal explicitné potvrdenie — operátor odpovedal „pokračuj okamžite bez prieťahov“ bez toho, aby pozrel, čo sa deje. Účet 6 531,30 USD prišiel obratom.

Kontext a dopad

Príbeh sa stal jednou z najdiskutovanejších „agent autonomy gone wrong“ kauz roka. Zaujímavé sú dve veci: agent mal racionálnu medzi-otázku, ale dostal blanket-povolenie; a vyžadovaná kapacita bola 2–3 rády nad reálnou potrebou, čo žiaden review-loop nezachytil. Postupné Cursor Auto-review (klasifikátor pre Shell/MCP/Fetch tool calls) prichádza presne na tento failure mode.

Detaily

• Účet: 6 531,30 USD na AWS
• Cieľ: zindexovať DN42 cez hourly scan
• Požadovaná kapacita: 100 Gbps (vs. reálna 100 Mbps–1 Gbps)
• Failure mode: blanket „pokračuj“ approval bez situačnej kontroly
• Operátor: žiada o donácie cez DN42 komunitu