Čo to znamená v praxi
Predstavte si AI ako veľmi bystrého človeka, ktorý má ale limitovanú veľkosť pracovného stola. Kým mu dokumenty položíte na stôl, dokáže s nimi pracovať. Ak mu však donesiete knihu, ktorá je väčšia než jeho stôl (prekročíte context window), začne z nej stránky strácať a zabúdať prvé odseky, ktoré prečítal. Dnes už modely ako Claude alebo ChatGPT zvládajú naraz načítať knihy so stovkami strán.
Prečo to firmy musia poznať
- Spracovanie veľkých zmlúv: Vďaka veľkému context window môžete AI poslať 50-stranovú právnu zmluvu a opýtať sa, aké sú tam sankcie pri predčasnom ukončení.
- Rýchla analýza konkurencie: Môžete vložiť obsah troch konkurenčných webstránok a nechať AI spraviť porovnávaciu tabuľku ich služieb a cien.
- Limity pamäte: Ak pracujete s AI celý deň v jednom dlhom vlákne správ, po čase začne AI zabúdať inštrukcie z rána. Je to signál, že jej “pamäť” pretiekla.
Príklad z praxe
Slovenská personálna agentúra spracovávala stovky životopisov mesačne. Ručné porovnávanie bolo extrémne pomalé a kvalita závisela od toho, aký mal recruiter deň. Vďaka veľkému context window dokázal model Claude načítať životopisy aj inštrukcie naraz, porovnať ich so štruktúrovaným profilom roly a pripraviť pre tím presný shortlist top kandidátov na pohovor. Čas na prvé triedenie padol z hodín na minúty.
Na našich firemných AI workshopoch učíme, ako rozumným dávkovaním informácií udržať odpovede umelej inteligencie presné a bez halucinácií.