Simon Willison: AI agenti nemôžu byť 'Directly Responsible Individuals' — zodpovednosť vyžaduje človeka

Hlavná myšlienka

Simon Willison tvrdí, že populárny manažérsky framework DRI (Directly Responsible Individual — osoba ultimátne zodpovedná za úspech projektu) sa nemôže aplikovať na AI agentov. Zodpovednosť je konceptuálne viazaná na ľudský subjekt — stroj nemôže niesť zodpovednosť za svoje rozhodnutia.

Kontext

Post vznikol 12. júla 2026 uprostred rastúceho tlaku na delegovanie rozhodovania na AI agentov v enterprise prostredí. Willison sa odvoláva na IBMov interný tréningový slide z roku 1979: 'A computer can never be held accountable, therefore a computer must never make a management decision.' Tento citát rezonuje ako princíp opatrnosti pri rozmahu agentických systémov, kde sa zodpovednosť môže stratiť v reťazci agentov.

Prečo to stojí za pozornosť

Pre vývojárov a IT manažérov budujúcich agentické systémy je toto dôležité upozornenie: bez jasne definovaného ľudského DRI pre každú agentickú úlohu vzniká organizačné riziko — nikto nie je zodpovedný keď agent urobí chybu. Kľúčové pre návrh governance frameworkov agentickej AI.

Detaily / argumenty

• DRI framework pochádza z Apple (Steve Jobs éra) — jedna osoba jasne zodpovedná za výsledok
• IBM 1979: 'A computer can never be held accountable, therefore a computer must never make a management decision'
• AI agent môže vykonať rozhodnutie, ale nemôže niesť následky — zodpovednosť padá na človeka, nie na systém
• Záver: pri nasadzovaní AI agentov vždy definovať ľudského DRI pre každý agentický workflow