Čo to znamená v praxi
Token je kúsok textu, s ktorým model pracuje. Spotreba tokenov je teda to, koľko toho cez model prejde, a od nej sa odvíja faktúra.
Konkrétne čísla z praxe: jedna obchodná firma, s ktorou pracujeme, dnes míňa €1 000 až €2 000 mesačne na jedného softvérového inžiniera. Pri prvom pohľade to vyzerá ako veľa. Pri druhom je to zlomok nákladov na toho istého človeka.
Prečo nízka spotreba nie je dobrá správa
Manažment inštinktívne vníma spotrebu ako náklad, ktorý treba stlačiť. V praxi sa ale správa skôr ako ukazovateľ učenia.
Ak tím vyčerpá týždenný limit, väčšinou to znamená, že s AI reálne pracuje. Ak spotreba stagnuje, ľudia buď nemajú čo riešiť, alebo, čo je pravdepodobnejšie, nevedia, čo všetko sa dá.
Ako o tom uvažovať
Rátajte to ako investíciu do nástroja, nie ako prevádzkovú položku. Užitočná otázka nie je „koľko sme minuli?”, ale „čo za to vzniklo?” Dvadsať variantov webu za tisíc dolárov v tokenoch je iný rozhovor než tender s agentúrou.
Nákladová stránka agentic engineeringu je jedna z tém, ktoré na workshopoch preberáme s manažmentom aj s vývojármi, každý potrebuje z toho čísla iné závery.