Čo to znamená v praxi
Predstavte si, že chcete naučiť nového stážistu, ako vyzerá úspešný obchodník, no ukážete mu len životopisy mužov nad 40 rokov s oblekom na fotke. Stážista logicky nadobudne dojem, že žena alebo mladý muž v tričku nemôže byť dobrý obchodník. Presne toto je bias v umelej inteligencii. AI nemá vlastný rozum – hľadá vzorce v historických dátach. Ak sú tieto dáta historicky skreslené, AI bude toto skreslenie nielen opakovať, ale často aj zosilňovať.
Prečo to firmy musia poznať
- Reputačné riziko: Ak váš AI chatbot odpovedá zákazníkom zaujato alebo nevhodne, pokazí to meno vašej firmy.
- Finančné straty z nesprávnych rozhodnutí: Ak AI triedi životopisy a vyraďuje kvalitných kandidátov len na základe skrytého skreslenia, prichádzate o talenty.
- Právne problémy: Rozhodnutia s negatívnym dopadom na konkrétne skupiny ľudí môžu porušovať antidiskriminačné zákony.
- Slepé spoliehanie sa na technológiu: Majitelia firiem často veria, že počítač je “objektívny”. Treba pamätať, že počítač je len taký objektívny, ako dáta, ktorými ho nakŕmite.
Príklad z praxe
Veľká medzinárodná spoločnosť používala AI na prvotné triedenie životopisov kandidátov na programátorské pozície. Model sa učil na životopisoch z posledných 10 rokov, kde dominovali muži. Systém si vytvoril bias a začal penalizovať životopisy, ktoré obsahovali slovo “ženský” (napr. kapitánka ženského šachového klubu). Nástroj museli nakoniec vyradiť. Aj menšia slovenská firma musí byť pri delegovaní dôležitých rozhodnutí na AI opatrná.
Na našich firemných AI workshopoch učíme, ako rozpoznať limity umelej inteligencie a prečo je kritické zaviesť procesy kontroly, aby ste sa vyhli drahým chybám.