Späť na rubriku
Willison ⭐ Dôležité

Simon Willison: Ako funguje relay trh krádeže a predaja LLM tokenov

Pondelok 27. júla 2026 Zdroj: Simon Willison

Hlavná myšlienka

V Číne (a globálne) existuje rozsiahly underground trh kde reselleri kupujú lacný alebo ukradnutý prístup k LLM API (OpenAI, Anthropic atď.) a predávajú ho ďalej so ziskom. Infraštruktúra je postavená na open-source proxy softvéri one-api a new-api.

Kontext

Willison cituje investigatívu Matta Lenharda z 26. júla 2026 (vectoral.com). Relay trh existuje kvôli cenám a geografickým obmedzeniam — reselleri arbitrážujú medzi cenou prístupu a cenou predaja. Zákazníkmi sú firmy hľadajúce lacnejší prístup, ale aj tí čo obchádzajú geobloky, alebo zbierajú dáta na model distilláciu.

Prečo to stojí za pozornosť

Willison zdôrazňuje zásadný bezpečnostný dôsledok: existencia tohto ekosystému znamená, že existuje celá sieť subjektov so ziskom motiváciou objaviť nový nechránený LLM endpoint. Odporúča LLM vendorom implementovať prísne spending caps na API kľúčoch.

Detaily / argumenty

  • Relay trh funguje cez one-api/new-api open-source proxy software
  • Zdroje tokenov: free trials, nezabezpečené support boty, ukradnuté karty, chargebacks
  • Zákazníci: lacnejší prístup, geoblocking obchádzanie, model distillácia
  • Willison: teraz je opatrnejší pri verejnom vystavovaní LLM endpointov
  • Riešenie: prísne spending caps na API kľúčoch (feature ktorú väčšina vendorov má, ale nie vždy prominentne)
Otvoriť pôvodný zdroj Simon Willison