Čo to znamená v praxi
Predstavte si EU AI Act ako pravidlá cestnej premávky pre umelú inteligenciu. Bicykel (chatbot na sumarizáciu textov) nepotrebuje zložitú certifikáciu, ale ak chcete riadiť kamión s nebezpečným nákladom (AI, ktorá hodnotí úverové riziko v banke alebo číta röntgeny), musíte prejsť prísnymi testami a mať na to špeciálne povolenia. Zákon rozdeľuje AI aplikácie do štyroch kategórií: od neprijateľného rizika (úplne zakázané) až po minimálne riziko (napr. spam filter, kde pravidlá neplatia takmer žiadne).
Prečo to firmy musia poznať
- Vysoké pokuty: Porušenie pravidiel môže znamenať likvidačné pokuty v miliónoch eur alebo až do výšky určitého percenta z globálneho obratu firmy.
- Transparentnosť: Ak na vašom e-shope alebo infolinke komunikuje so zákazníkmi AI chatbot, musíte zákazníkovi jasne priznať, že sa nerozpráva so živým človekom.
- Nové byrokratické povinnosti: Firmy, ktoré vyvíjajú vlastné vysoko rizikové AI systémy (napríklad softvér na hodnotenie zamestnancov), budú musieť spĺňať prísne štandardy kvality dát a dokumentácie.
- Ochrana pred nekalou konkurenciou: Zákon nastavuje mantinely, aby technológia nemohla byť zneužívaná na manipuláciu zákazníkov.
Príklad z praxe
Slovenská personálna agentúra chce nasadiť AI nástroj, ktorý by automaticky vyraďoval uchádzačov o prácu na základe analýzy ich tváre počas videopohovoru. Podľa EU AI Act patrí hodnotenie emócií na pracovisku do kategórie zakázaných praktík (neprijateľné riziko). Firma by takýmto nasadením riskovala obrovské pokuty. Naopak, ak použijú AI len na to, aby zosumarizovala zápisnicu z pohovoru, ide o minimálne riziko bez zložitej byrokracie.
Na našich firemných AI workshopoch ukazujeme, ako aplikovať umelú inteligenciu do procesov firmy tak, aby ste z nej vyťažili maximum a zároveň zostali v súlade s platnou legislatívou.