Čo to znamená v praxi
Keď si kúpite oblek v obchode, väčšinou vám sedí celkom dobre. Ak ale chcete, aby vám sedel dokonale, zoberiete ho ku krajčírovi, ktorý ho na vás doladí.
Presne to je fine-tuning. Zoberiete hotový, múdry LLM model (napríklad od OpenAI) a “ukážete” mu tisíce príkladov z vašej firmy. Napríklad mu ukážete 5000 vašich starých zákazníckych emailov, aby sa naučil, akým tónom vaša firma komunikuje, aký žargón používate a ako formátujete odpovede.
Prečo to firmy musia poznať
Najčastejší omyl, s ktorým sa u majiteľov firiem stretávame, znie: “Chceme, aby AI poznala naše interné smernice, takže ju musíme na nich natrénovať (fine-tunovať).” To je chyba.
- Na fakty použite RAG. Ak chcete, aby AI vedela, aké máte ceny, aké sú podmienky reklamácie alebo čo je v najnovšej zmluve, fine-tuning je zlá a drahá cesta. Model sa fakty učí ťažko a ťažko sa z neho mažú, keď sa zmenia. Na fakty a hľadanie v dokumentoch slúži RAG.
- Na štýl a tón použite fine-tuning. Fine-tuning je ideálny, ak chcete zmeniť spôsob, akým AI rozpráva. Ak ste právna kancelária a chcete, aby AI písala zmluvy presne vaším špecifickým právnickým štýlom, fine-tuning na vašich starých zmluvách je správna cesta.
- Náklady a dáta. Fine-tuning nie je lacný. Vyžaduje si prípravu stoviek až tisícov kvalitných príkladov (tzv. dataset). Ak do modelu nalejete “odpad”, naučí sa produkovať odpad.
Príklad z praxe
Slovenská e-commerce firma chcela, aby AI generovala popisy produktov na e-shop presne v ich špecifickom, trochu drzom a vtipnom tóne.
Najprv to skúšali cez dlhé inštrukcie, ale AI stále znela príliš roboticky. Zobrali teda 1000 svojich najlepších starých popisov produktov a urobili na nich fine-tuning menšieho, lacnejšieho modelu. Výsledok? Model sa naučil ich presný “firemný hlas” a teraz generuje popisy, ktoré copywriteri nemusia takmer vôbec upravovať.
Na našich firemných AI workshopoch pomáhame firmám rozhodnúť sa, či na ich problém stačí dobrý prompt, či potrebujú RAG na vyhľadávanie v dokumentoch, alebo či sa im skutočne oplatí investovať do fine-tuningu.