Čo to znamená v praxi
AI model (typicky LLM, napríklad ChatGPT alebo Claude) vám dá odpoveď, ktorá znie sebavedomo a vyzerá ako fakt, ale je nesprávna alebo úplne vymyslená. Najznámejší príklad: vymyslené zdroje, neexistujúce zákony, fiktívne čísla.
Dôvod je technický. LLM nepozná pravdu. Predpovedá najpravdepodobnejšiu ďalšiu časť textu na základe trénovacích dát. Keď si nie je istý, nepovie “neviem”, ale povie niečo, čo znie správne.
Prečo to firmy musia poznať
- Zákaznícka komunikácia. AI agent v zákazníckej podpore halucinuje cenu, podmienky, lehotu a vy to musíte zaplatiť.
- Interné rozhodnutia. Manažér si nechá od AI urobiť rešerš, dostane vymyslené čísla, urobí podľa nich rozhodnutie.
- Compliance a právo. AI vygeneruje neexistujúci paragraf, právnik to nevšimne včas.
- Marketing a obsah. AI napíše “fakt”, ktorý je vymyslený a vy to publikujete pod menom firmy.
Ako sa proti tomu chrániť
- Nepýtajte sa AI na fakty, ktoré si nemôžete overiť. AI je výborný pomocník na štruktúru, koncept a prvý draft. Nie na pravdivosť čísel.
- Použite RAG (Retrieval-Augmented Generation). AI odpovedá iba na základe vašich dokumentov, nie z trénovacích dát.
- Vyžadujte zdroje. Nech AI cituje, odkiaľ má každý fakt. Skontrolujte aspoň 1 z 3.
- Human-in-the-loop. Pri všetkom, čo má dopad (zákazník, právo, financie), musí to pred odoslaním schváliť človek.
- Logujte výstupy. Aby ste vedeli spätne zistiť, kde halucinácia vznikla.
Halucinácie nie sú dôvod AI nepoužívať. Sú dôvod používať ju správne. Vo workshope ukazujeme konkrétne procesy, kde halucinácie nevadia, a tie, kde sú nebezpečné a ako ich oddeliť.