Umelá inteligencia a jej etické dôsledky vo výberovom konaní zamestnancov
- Katarína Hrnčiarová
- May 2
- Čítanie: 5
Umelá inteligencia sa čoraz viac stáva súčasťou náborových procesov a mení spôsob, akým firmy hľadajú nových zamestnancov. S tým však prichádzajú aj dôležité otázky týkajúce sa etiky, spravodlivosti a transparentnosti výberových konaní. Európska únia v roku 2024 schválila nový zákon o umelej inteligencii (EU AI Act), ktorý prináša jasnejšie pravidlá pre využívanie AI, najmä v oblasti HR a náboru. Keďže umelá inteligencia môže výrazne ovplyvniť šance ľudí získať prácu, systémy, ktoré sa používajú pri prijímaní nových zamestnancov, sú v tomto zákone zaradené medzi tie „vysoko rizikové“.
Čo znamená AI zákon pre HR a nábor nových ľudí?
Zákon o umelej inteligencii prináša nové pravidlá, ktoré sa dotknú firiem a HR tímov využívajúcich technológie pri nábore. Cieľom tohto zákona je zabezpečiť, aby procesy výberu zamestnancov boli nielen efektívnejšie, ale aj spravodlivejšie a transparentnejšie. S narastajúcim využívaním AI pri hodnotení uchádzačov sa objavujú aj obavy o diskrimináciu a nejasnosti pri rozhodovaní. Preto zákon kladie dôraz na to, aby zamestnávatelia dodržiavali prísne pravidlá, ktoré zaručia, že rozhodnutia nebude ovplyvňovať zaujatý algoritmus, ale spravodlivý a férový proces. V nasledujúcich bodoch sa pozrieme na kľúčové oblasti, ktoré sa zákon snaží regulovať, a čo to znamená pre každodennú prácu v oblasti ľudských zdrojov.
1. Otvorená hra: kandidát má vedieť, čo sa deje
Ak firma pri nábore používa umelú inteligenciu, musí to kandidátovi povedať na rovinu. Nestačí len niekde malým písmom spomenúť, že „AI bola zapojená“ – treba vysvetliť, ako systém funguje a ako ovplyvňuje rozhodnutie. Uchádzač má navyše právo pýtať si vysvetlenie, prečo ho AI napríklad vyradila z výberu. Inými slovami, žiadne tajomstvá – každý má právo vedieť, či ho hodnotil človek, alebo algoritmus.
2. Spravodlivosť na prvom mieste: žiadne zaujaté roboty
Aby systémy nerozhodovali nefér, musia byť trénované na vyvážených a spravodlivých dátach. Ak by sa napríklad AI učila len z prípadov, kde boli prijímaní hlavne muži, mohlo by to diskriminovať ženy – a to už dnes nie je akceptovateľné. Firmy teda musia pravidelne kontrolovať, či ich systémy „neškrípu“ a neprinášajú neviditeľné nerovnosti.
3. Človek má posledné slovo
Aj keď AI môže pomôcť s triedením životopisov alebo hodnotením odpovedí, konečné rozhodnutie nemôže urobiť len stroj. Musí tam byť človek, ktorý celý proces sleduje, rozumie mu a vie zasiahnuť. Je to ako autopilot v lietadle – šikovný pomocník, ale kapitán je stále človek.
4. Dajme si pozor, čo AI s údajmi robí
Ak AI pracuje s osobnými údajmi (čo je pri nábore takmer vždy), musí firma vypracovať hodnotenie rizík – tzv. DPIA (Data Protection Impact Assessment). Ide o to, aby sme sa dopredu zamysleli, aký dopad môžu mať rozhodnutia AI na konkrétneho človeka a ako prípadné riziká zmierniť. Je to ako bezpečnostná kontrola – radšej dvakrát preveriť, než raz ľutovať.
5. Nestačí len pustiť systém, treba mu aj rozumieť
Od februára 2025 platí, že každý, kto pracuje s AI pri výbere ľudí, musí vedieť, čo robí. Nestačí len kliknúť na „spustiť hodnotenie“ – dôležité je rozumieť, ako AI funguje, čo môže pokaziť a ako to opraviť. Inými slovami, HR špecialisti sa budú musieť trochu skamarátiť s technológiou.
6. Termíny, pokuty a realita
Zákon sa začne uplatňovať už od februára 2025, no firmy majú čas pripraviť sa do roku 2026. Kto pravidlá poruší, môže zaplatiť mastnú pokutu – až 35 miliónov eur alebo 7 % z celosvetového obratu. Pre veľké firmy to už nie je len „dobré odporúčanie“, ale reálne riziko.
Prečo EÚ zaviedla pravidlá pre AI vo výberových konaniach?
Zákon o umelej inteligencii nie je len preventívnym opatrením. Vznikol ako reakcia na reálne prípady, kde AI v nábore nefungovala tak, ako mala – a v niektorých prípadoch spôsobila veľké problémy. Nábor zamestnancov nie je len o efektivite, ale aj o spravodlivosti, rovnosti príležitostí a dôvere. Keď rozhoduje algoritmus, ktorý nemá dostatočný dohľad, môžu sa do hry dostať predsudky, nedorozumenia alebo technické chyby. A tie vedia výrazne ovplyvniť životy ľudí.
Tu sú niektoré z najznámejších príkladov, ktoré prispeli k tomu, že EÚ začala konať:
Amazon a znevýhodňovanie žien
Amazon testoval vlastný náborový nástroj s umelou inteligenciou, ktorý mal hodnotiť životopisy. Namiesto objektívneho výberu sa ale AI naučila, že „úspešný kandidát = muž“, pretože historicky boli vo firme častejšie prijímaní práve muži. Algoritmus začal automaticky znevýhodňovať ženy, čo viedlo k zrušeniu projektu.
HireVue: hodnotenie na základe výrazu tváre
Americká firma HireVue využívala AI na analýzu video rozhovorov, kde systém hodnotil mimiku, tón hlasu či očný kontakt. Kritici však upozornili, že takýto spôsob hodnotenia je nepresný a neférový – najmä voči ľuďom s odlišným štýlom komunikácie, neurodivergentným uchádzačom alebo ľuďom z iných kultúr. Firma nakoniec časť týchto funkcií odstránila.
Chatboty, ktoré nevedia, kedy sa mýlia
Viaceré firmy testovali náborových chatbotov, ktorí mali kandidátov predbežne vyhodnocovať. V praxi to však často znamenalo, že uchádzači boli automaticky vyradení len preto, že nezapadali do „ideálneho profilu“. Bez možnosti vysvetlenia alebo kontaktu s reálnym človekom to bol pre mnohých frustrujúci zážitok.
Tieto prípady ukazujú, že aj keď je AI v nábore čoraz bežnejšia, bez jasných pravidiel a ľudského dohľadu môže narobiť viac škody ako úžitku. A práve preto prichádza AI Act – aby technológia pomáhala, nie škodila.
Ako sa pripraviť na výberové konanie s využitím umelej inteligencie
Umelá inteligencia sa čoraz častejšie stáva súčasťou náborového procesu – od automatizovaného triedenia životopisov až po analýzu odpovedí vo video pohovoroch. Tento vývoj so sebou prináša nové výzvy, ale aj konkrétne práva pre uchádzačov. Vďaka legislatíve EÚ je možné získať lepšiu kontrolu nad tým, ako prebieha výber, a pripraviť sa naň efektívnejšie.
Prvým krokom je zistenie, či daný zamestnávateľ využíva AI nástroje pri výbere kandidátov. Ak to nie je uvedené priamo v popise pozície alebo v komunikácii s HR oddelením, je úplne v poriadku túto otázku položiť. Transparentnosť zo strany zamestnávateľa je základom spravodlivého výberového procesu.
V prípade, že uchádzač nepostúpi do ďalších kôl a má dôvod sa domnievať, že o výsledku rozhodoval algoritmus, má právo požiadať o vysvetlenie. Mal by byť schopný získať informácie o tom, aké kritériá boli hodnotené, akým spôsobom bol profil posudzovaný a do akej miery rozhodovanie ovplyvnila automatizácia.
Rovnako je dôležité vnímať potenciálne signály nespravodlivého zaobchádzania. Ak sa objaví podozrenie, že výber mohol byť ovplyvnený diskriminačnými faktormi – ako vek, pohlavie, etnický pôvod či meno – existuje možnosť požiadať o prehodnotenie rozhodnutia človekom. Podľa legislatívy totiž nemôže byť konečné rozhodnutie založené výlučne na algoritmoch bez ľudského zásahu. Niektoré spoločnosti využívajú AI aj na analýzu správania počas video pohovorov – môžu hodnotiť napríklad tón hlasu, mimiku alebo štruktúru reči. Hoci tento prístup zatiaľ nie je bežný vo všetkých odvetviach, je vhodné pripraviť sa naň – napríklad precvičením odpovedí, nahrávaním vlastného prejavu či prácou na istote pri komunikácii cez kameru.
V neposlednom rade je dôležité venovať pozornosť aj ochrane osobných údajov. V prípade, že nábor zahŕňa zber citlivých dát, ako sú videozáznamy, hlas alebo textové odpovede, má uchádzač právo vedieť, na čo budú tieto údaje použité, ako dlho budú uchovávané a komu môžu byť sprístupnené. Umelá inteligencia môže výberový proces zefektívniť, ale zároveň vyžaduje zodpovedný prístup zo strany firiem aj kandidátov. Informovaný a aktívny prístup pomáha zabezpečiť, aby bol výber spravodlivý a v súlade s novými pravidlami ochrany práv jednotlivcov.
Záver
Umelá inteligencia môže byť pri nábore šikovným pomocníkom, no len vtedy, ak sa s ňou pracuje zodpovedne a férovo. Nové pravidlá EÚ majú za cieľ chrániť ľudí pred nespravodlivým rozhodovaním a posilniť transparentnosť celého výberového procesu. Je dôležité, aby si firmy uvedomili, že za každým „dátovým bodom“ je reálny človek s príbehom. Pre uchádzačov je zásadné byť informovaní o tom, ako sa ich dáta používajú a mať možnosť požiadať o vysvetlenie, ak niečo nevyzerá správne. Ak sa pravidlá nastavia správne, výberový proces môže byť opäť o niečo inkluzívnejší.
Zdroje:
European Commission – Artificial Intelligence Act
https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence
(Oficiálna stránka EÚ o AI reguláciách, vrátane úplného znenia zákona)
EUR-Lex – Regulation laying down harmonised rules on artificial intelligence (AI Act)
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52021PC0206
(Legislatívny text návrhu AI Act so sledovaním legislatívneho procesu)
theHRDIRECTOR – AI Regulation and Recruitment
(Praktický pohľad na dôsledky AI Actu pre HR a nábor)
Pinsent Masons – A guide to high-risk AI systems under the EU AI Act
https://www.pinsentmasons.com/out-law/guides/guide-to-high-risk-ai-systems-under-the-eu-ai-act
(Zamerané na vysoko rizikové AI systémy)
Amazon - How a paper by three Oxford academics influenced AWS bias and explainability software https://www.amazon.science/latest-news/how-a-paper-by-three-oxford-academics-influenced-aws-bias-and-explainability-software
Why HireVue/AI Interview is biased.....and How to Fix It https://www.linkedin.com/pulse/why-hirevueai-interview-biasedand-how-fix-paul-meyer-xvbmc/