Stronniczość AI w rekrutacji: skutki automatycznego odrzucania kandydatów

Badanie opublikowane w 2026 roku objęło 4,2 miliona zgłoszeń z lat 2018–2022 i modele oceny kandydatów jednego dostawcy. W zebranych danych 25,87% zgłoszeń od czarnoskórych kandydatów trafiło na stanowiska, których model wykazywał wobec tej grupy niekorzystny wpływ. Spośród osób, które zgłosiły się na dziesięć stanowisk, 4% otrzymało negatywną rekomendację we wszystkich dziesięciu przypadkach. Wyniki pokazują ryzyko powtarzających się odmów, gdy wielu pracodawców korzysta z podobnych modeli.

Co wykazało badanie

Chodzi o badanie „Algorithmic Monocultures in Hiring”, zaprezentowane na konferencji 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT ‘26) przez Rishiego Bommasaniego, Sarah H. Banę, Kathleen A. Creel, Dana Jurafsky’ego i Percy’ego Lianga. Troje z pięciorga autorów jest związanych ze Stanford.

To jak dotąd największe badanie wdrożonych decyzji rekrutacyjnych AI: 4 197 168 aplikacji od 3 372 132 kandydatów na 1746 stanowisk u 156 pracodawców w 11 branżach, o łącznym rocznym przychodzie bliskim 225 miliardom dolarów, obejmujące okres od grudnia 2018 do grudnia 2022. Liczby pochodzą z publikacji.

Wszystkie te aplikacje przeszły przez ocenę pymetrics, dostawcy oceny opartej na grach (przejętego przez Harver w sierpniu 2022). Kandydaci grają w 12–16 krótkich gier online, a klasyfikator dopasowany do konkretnego klienta zwraca „rekomenduję” albo „nie rekomenduję”. Średnio 41,8% aplikacji otrzymało „nie rekomenduję”, co publikacja traktuje jako odrzucenie.

Kiedy badacze przeanalizowali niekorzystny wpływ tak, jak nakazuje logika zakazu dyskryminacji pośredniej (dla każdego stanowiska osobno, a nie zbiorczo), ujawnili następujące dysproporcje:

• 25,87% aplikacji od czarnoskórych kandydatów trafiło na stanowiska, których model wykazywał wobec nich niekorzystny wpływ.
• 30,70% czarnoskórych kandydatów aplikowało na co najmniej jedno stanowisko o niekorzystnym wpływie na czarnoskórych kandydatów.
• 10,62% z 1746 stanowisk wykazało niekorzystny wpływ wobec czarnoskórych kandydatów.
• 14,74% aplikacji od kandydatów pochodzenia azjatyckiego trafiło na stanowiska o niekorzystnym wpływie wobec osób pochodzenia azjatyckiego.

Dlaczego chodzi o „całe branże”, a nie tylko „pojedyncze stanowiska”

Powodem, dla którego stronniczość na poziomie jednego stanowiska zamienia się w problem całej branży, jest monokultura algorytmiczna: gdy modele tego samego dostawcy uczestniczą w ocenie kandydatów u wielu pracodawców, odrzucenie w jednej firmie przestaje być niezależne od odrzucenia w innej. Korzystają z tego samego modelu, więc powielają jego błędy.

Publikacja podaje to wprost. Spośród kandydatów aplikujących na dziesięć stanowisk 4% zostaje odrzuconych ze wszystkich dziesięciu. To więcej, niż przewidywałyby niezależne decyzje. Przy decyzjach naprawdę niezależnych szansa na porażkę wszędzie naraz spada szybko; tutaj spada wolniej, niż wynikałoby z niezależnych decyzji, bo decyzje są skorelowane przez wspólny klasyfikator. Żeby zepchnąć wskaźnik systemowego odrzucenia poniżej 0,1%, kandydat musiałby wysłać 25 aplikacji zamiast 10.

Do tego pracodawcy z danej branży zwykle grupują się wokół jednego dostawcy. Publikacja wymienia finanse, produkcję i logistykę magazynową. Kandydat, którego cechy rozgrywki model akurat ocenia gorzej, nie traci jednej pracy. Może zostać odfiltrowany z całej dziedziny przez jeden klasyfikator, o którym nawet nie wiedział, że to on podejmuje decyzję.

Czy narzędzia AI do rekrutacji mogą być stronnicze rasowo?

Tak. Badanie 4,2 miliona aplikacji prowadzone przez zespół ze Stanford w 2026 roku wykazało, że 25,87% aplikacji od czarnoskórych kandydatów trafiło do modeli AI wykazujących wobec nich niekorzystny wpływ, a 4% osób aplikujących na dziesięć ofert zostało odrzuconych ze wszystkich dziesięciu. Stronniczość rzadko jest jawna. Bierze się z dyskryminacji przez cechy zastępcze: model uczy się w danych behawioralnych albo danych z rozgrywki wzorców skorelowanych z rasą, a potem działa na ich podstawie, jakby były miarą kompetencji.

pymetrics przeszedł wcześniej audyt. Niezależny audyt akademicki (Wilson i Mislove, FAccT 2021) wykazał, że narzędzie wiernie stosuje regułę czterech piątych na poziomie zbiorczym. Sednem nowego badania jest to, że audyty zbiorcze maskują dysproporcje na poziomie pojedynczego stanowiska. Kiedy zejdziesz na poziom pojedynczego stanowiska, niekorzystny wpływ staje się widoczny. Takie dysproporcje wymagają osobnej oceny pod kątem dyskryminacji pośredniej. Ten test, inaczej niż amerykańska reguła czterech piątych, opiera się na obiektywnym uzasadnieniu, a nie sztywnym progu liczbowym.

Jak ujęła to współautorka badania Sarah Bana, „zachowania wychwytywane przez gry funkcjonują jako proxy dla rasy”. Rishi Bommasani dodał, że „te stronniczości odzwierciedlają fakt, iż cechy rozgrywki są nierównomiernie rozłożone między grupami rasowymi”. Dlatego „przeprowadziliśmy audyt modelu” to nie to samo co „żaden kandydat nie poniósł szkody”.

Co się dzieje po rekomendacji modelu

Autorzy piszą, że gdy algorytm zwraca „nie rekomenduję”, kandydat „prawdopodobnie zostanie odrzucony bez rozpatrzenia przez człowieka”. Narzędzia „kształtują to, których kandydatów rozważa się na rozmowę, a których aplikacji nigdy nie zobaczy człowiek”.

Rekomendacja może więc stać się ostateczną decyzją, której nikt nie sprawdzi. Osoba oceniająca nie zobaczy pełnej kandydatury i nie skoryguje odrzucenia.

Badanie opisuje rekomendacje modeli, które mogą wpływać na to, czy kandydatura trafi do oceny człowieka. Także podsumowanie AI może oddziaływać na późniejszą decyzję. Sprawdź więc nie tylko, czy model sam odrzuca zgłoszenia, lecz także jak zespół wykorzystuje jego rekomendacje.

Sprawdź więc, czy w twoim procesie AI wspiera decyzję człowieka, czy ją zastępuje.

To już jest problem prawny i regulacyjny

W Polsce i w całej UE automatyczna ocena kandydatów przez AI podlega trzem grupom przepisów. Część już obowiązuje, a kolejne wymogi wchodzą w życie etapami.

• RODO, art. 22 (już obowiązuje). Rozporządzenie (UE) 2016/679 zakazuje podejmowania decyzji opartych wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, jeśli wywołują one skutki prawne lub podobnie istotne. Odrzucenie aplikacji jest takim skutkiem. Kandydatowi przysługuje egzekwowalne prawo do interwencji człowieka, przedstawienia własnego stanowiska i zakwestionowania decyzji. Zakres zastosowania przepisu, wyjątki i wymagane zabezpieczenia trzeba ocenić dla konkretnego procesu.
• Unijny AI Act (rozporządzenie 2024/1689). Załącznik III pkt 4 lit. a) klasyfikuje AI do rekrutacji i selekcji (publikowanie ogłoszeń, filtrowanie aplikacji, ocenę kandydatów) jako system wysokiego ryzyka. To pociąga za sobą obowiązkowy nadzór człowieka, przejrzystość, ład nad danymi oraz obowiązek informowania kandydatów. (Ocena skutków dla praw podstawowych z art. 27 obejmuje wyłącznie podmioty publiczne i podmioty świadczące usługi publiczne, więc prywatnego pracodawcy zwykle nie dotyczy.) Obowiązki te wchodzą w życie etapami, a maksymalne kary przewidziane w rozporządzeniu sięgają 35 mln euro albo 7% globalnego obrotu.
• Kodeks pracy, art. 18(3a)–18(3e). Zakaz dyskryminacji pośredniej: pozornie neutralne kryterium, które stawia osoby z grupy chronionej w szczególnie niekorzystnej sytuacji, jest niezgodne z prawem, chyba że da się je obiektywnie uzasadnić. Dysproporcje na poziomie stanowiska wymagają więc oceny również wtedy, gdy zbiorczy wynik audytu nie wskazuje problemu.

W Polsce nie ma jednego odpowiednika amerykańskiego EEOC. Skargę na decyzję podjętą wyłącznie automatycznie rozpatruje Prezes UODO; roszczenia o dyskryminację w zatrudnieniu trafiają do sądów pracy i w pole działania Państwowej Inspekcji Pracy, a funkcję organu ds. równego traktowania pełni Rzecznik Praw Obywatelskich.

Jak używać AI w rekrutacji, nie zamykając ludziom drzwi

Z badania wynikają cztery wskazówki dla zespołów rekrutacyjnych:

1. Niech AI wspiera, a nie działa autonomicznie. Używaj modeli do wyszukiwania i podsumowywania informacji o kandydatach na potrzeby osoby oceniającej, a nie do automatycznego odrzucania. Publikacja wskazuje problem rekomendacji „nie”, po której nikt już nie przegląda kandydatury.
2. Powierz decyzje ludziom. Każde przesunięcie dalej i każde odrzucenie powinno być zapisanym działaniem człowieka, a nie cichym wynikiem modelu. Decyzję podejmuje ktoś odpowiedzialny, z pełną aplikacją przed oczami.
3. Zapisuj przebieg każdego etapu. Kandydaci powinni przechodzić przez jasno określone etapy, których przebieg jest zapisywany. Wyniki muszą być dostępne do sprawdzenia. O taką przejrzystość proszą zarówno badacze, jak i unijny AI Act.
4. Przepuszczaj losową próbkę. Własna rada Bany dla pracodawców: zrozum, kogo twój algorytm wpuszcza i kogo odsiewa na każdym stanowisku, i przepuszczaj losową próbkę kandydatów przez pierwszy etap. Taka kontrola pozwala sprawdzić, czy wśród odrzuconych osób są kandydaci spełniający wymagania.

Przy nadzorze człowieka sprawdzaj również kryteria, materiały i uzasadnienia decyzji. Sam udział recenzenta nie rozstrzyga, czy ocena była rzetelna: ludzie także mogą stosować stronnicze kryteria.

Jak skonfigurować ocenę kandydatów w Kit

W Kit zespół ustala kryteria i zasady głosowania dla etapów rekrutacji. Podsumowania AI pomagają przeglądać informacje o kandydatach, ale same nie stanowią pełnej oceny ich pracy.

• Wspólne kryteria. Recenzenci oceniają kandydatów według karty oceny przypisanej do etapu.
• Jawne reguły automatyzacji. Ustawienia głosowania mogą automatycznie przesunąć kandydata dalej po zebraniu wymaganych ocen. Weto recenzenta prowadzącego może spowodować automatyczne odrzucenie, jeśli włączysz tę opcję.
• Kolejka decyzji. Oceny, które nie prowadzą do rozstrzygnięcia zgodnie z konfiguracją, trafiają do ręcznej decyzji z uzasadnieniem.
• Uprawnienia do działania. Asystent podłączony przez MCP może wykonywać udostępnione działania, w tym przesunięcie i odrzucenie, w granicach uprawnień użytkownika. Dostęp do zapisu trzeba świadomie przyznać.

Jeśli chcesz sprawdzać każdą decyzję osobiście, dostosuj konfigurację głosowania i uprawnienia asystentów tak, by nie pomijały tego kroku.

Wnioski

Badanie pokazuje, co może się stać, gdy wielu pracodawców polega na podobnych rekomendacjach, których nikt nie sprawdza. Własny proces warto oceniać zarówno na poziomie poszczególnych stanowisk, jak i powtarzających się odmów.

Zapisuj decyzje i ich uzasadnienia. Kontroluj losową próbkę odrzuconych kandydatur. Sprawdzaj, czy podsumowania AI pomagają zespołowi oceniać kandydatów, czy zastępują ocenę, której nikt już nie weryfikuje.

Jeśli chcesz zobaczyć funkcje AI wspierające ocenę człowieka w praktyce, możesz poznać podejście Kit do AI w rekrutacji albo rozpocząć darmowy okres próbny.