Čo to znamená v praxi
Skratka LLM znamená Large Language Model (veľký jazykový model). Najjednoduchšie je predstaviť si ho ako “motor” alebo “mozog” umelej inteligencie.
Mnoho ľudí si mýli ChatGPT s modelom. ChatGPT je v skutočnosti len chatovacia aplikácia (karoséria), do ktorej sa prihlasujete. Skutočný mozog, ktorý generuje odpovede (motor pod kapotou), je LLM – napríklad model s názvom GPT-4o. Konkurenčná aplikácia Claude zase používa model Claude 3.5 Sonnet.
Tieto modely “prečítali” obrovskú časť internetu. Vďaka tomu pochopili pravidlá jazyka, gramatiku, fakty aj logiku. Preto s vami dokážu plynule komunikovať v slovenčine, hoci boli vyvinuté v Amerike.
Prečo to firmy musia poznať
Majitelia firiem nemusia rozumieť zložitej matematike za LLM modelmi, ale musia vedieť, že nie je len jeden model a nie všetky sú rovnaké.
- Cena a výkon. Existujú obrovské, veľmi múdre modely (ako GPT-4o alebo Claude 3.5 Sonnet), ktoré sú drahšie a pomalšie. A existujú menšie, “hlúpejšie” modely (ako GPT-4o-mini), ktoré sú extrémne rýchle a stoja zlomok ceny.
- Výber správneho nástroja. Ak chcete, aby AI analyzovala 50-stranovú právnu zmluvu, potrebujete ten najväčší a najmúdrejší model. Ak chcete, aby AI len roztriedila 500 prichádzajúcich emailov do kategórií “reklamácia” a “objednávka”, stačí vám malý, lacný model.
- Bezpečnosť a súkromie. Niektoré modely (napríklad Llama od spoločnosti Meta) sú takzvané open-source. Môžete si ich stiahnuť a spustiť na vlastných firemných serveroch. Vaše citlivé dáta tak nikdy neopustia firmu.
Príklad z praxe
Častou chybou pri automatizácii firemných procesov je, že firmy použijú na každú drobnú úlohu ten najdrahší model. Je to ako používať kamión na nákup rožkov.
Na našich firemných AI workshopoch učíme tímy, ako si vybrať správny LLM model pre konkrétnu úlohu. Správny výber “motora” dokáže firme ušetriť stovky eur mesačne na prevádzkových nákladoch, pričom kvalita výsledku zostane úplne rovnaká.