Stronniczość AI w ocenie kandydatów: kryteria, decyzje i kontrola wyników

Nadzór człowieka, wspólne kryteria i zapis uzasadnień pomagają sprawdzać decyzje rekrutacyjne. Nie gwarantują jednak braku uprzedzeń. Badanie ponad czterech milionów aplikacji ocenionych przez jednego dostawcę AI pokazało, dlaczego trzeba kontrolować wyniki osobno dla poszczególnych stanowisk, a nie poprzestawać na zbiorczym audycie modelu.

Co naprawdę wykazało największe badanie rekrutacji z AI

W badaniu z 2026 roku, prowadzonym przez zespół ze Stanford, przeanalizowano 4 197 168 aplikacji od 3 372 132 kandydatów na 1746 stanowisk u 156 pracodawców, ocenianych przez jednego dostawcę między grudniem 2018 a grudniem 2022 roku. Wykazało ono wyraźne dysproporcje rasowe w tym, kogo algorytm rekomendował. Po zastosowaniu reguły czterech piątych EEOC osobno dla każdego stanowiska okazało się, że około 26% czarnoskórych kandydatów i 15% kandydatów pochodzenia azjatyckiego aplikowało na co najmniej jedno stanowisko, gdzie wyniki modelu przekraczały próg niekorzystnego wpływu wobec ich grupy.

Badacze szacują, że około 40 000 aplikacji więcej od kandydatów czarnoskórych i azjatyckich przeszłoby dalej, gdyby ich wskaźniki rekomendacji były na poziomie grupy najbardziej faworyzowanej. Jest to szacunek dla analizowanych aplikacji, a nie liczba osób, które na pewno zostałyby zatrudnione.

Badany dostawca oceniał kandydatów przez gry behawioralne, a nie przez analizę CV. Wyników nie można więc traktować jako pomiaru stronniczości każdego narzędzia do czytania CV. Pokazują one ryzyko związane z algorytmiczną selekcją oraz to, jak zbiorcze wyniki mogą ukrywać różnice między stanowiskami.

Wyniki badania i rolę automatycznych decyzji opisaliśmy szerzej w tekście Stronniczość AI w rekrutacji i skutki automatycznych odmów. Tutaj omawiamy kontrolę procesu: kryteria oceny, odpowiedzialność za decyzje i analizę wyników.

Dlaczego AI „ślepe na dane demograficzne” wciąż dyskryminuje

Usunięcie nazwisk, zdjęć i pól demograficznych nie czyni modelu sprawiedliwym. Modele mogą wykorzystywać cechy zastępcze, czyli atrybuty skorelowane z rasą, nawet jeśli nie otrzymują jej wprost jako danych wejściowych. Kod pocztowy, uczelnia, przerwy w zatrudnieniu lub wzorce gry mogą pośrednio odzwierciedlać cechy chronione.

Badany dostawca przeszedł niezależny audyt stronniczości na poziomie zbiorczym. Dysproporcje i tak się ujawniły, gdy badacze przeanalizowali dane osobno dla każdego stanowiska. Jak ujął to Rishi Bommasani ze Stanford: „cechy gry wciąż są nierównomiernie rozłożone między grupami rasowymi, a ten nierówny rozkład przekłada się na dysproporcje w tym, które grupy zostają wybrane”.

Zbiorczy audyt nie wystarcza do oceny każdego zastosowania modelu. Warto sprawdzać wyniki dla konkretnych stanowisk oraz dokumentować, kto podjął decyzję i na jakiej podstawie. Sam udział człowieka nie usuwa uprzedzeń.

Systemowe odrzucenie i algorytmiczna monokultura

Kiedy ten sam model dominuje w branży, odrzucenie w jednej firmie przestaje być niezależne od odrzucenia w innej. Badanie nazywa to algorytmiczną monokulturą: zidentyfikowano zaledwie 42 odrębne modele współdzielone przez 156 pracodawców. Konsekwencją jest systemowe odrzucenie. Wśród kandydatów, którzy aplikowali na cztery stanowiska wykorzystujące ten sam algorytm, około 10% zostało odrzuconych przez wszystkie. To więcej, niż przewidywałyby niezależne decyzje.

Jedna ocena mogła wpływać na kolejne rekrutacje. Jej wynik był ponownie wykorzystywany przez nawet 330 dni, więc jedna niekorzystna ocena mogła wpływać na kandydata przez prawie rok. A pracodawcy reprezentowali łącznie około 225 miliardów dolarów przychodu, co pokazuje skalę badanej grupy firm. Ten sam niekorzystny wynik mógł ograniczać szanse kandydata u wielu pracodawców korzystających ze wspólnego modelu.

Niezależny przegląd w każdej firmie pozwala zakwestionować wynik wspólnego modelu. Ma znaczenie tylko wtedy, gdy osoba oceniająca rzeczywiście sprawdza materiały i może zmienić decyzję.

Nadzór człowieka i obowiązki prawne

Aktualizacja z 6 września 2026 r. Po wejściu w życie AI Omnibus termin stosowania reguł dla systemów wysokiego ryzyka z załącznika III, w tym określonych zastosowań w zatrudnieniu, przesunięto z 2 sierpnia 2026 r. na 2 grudnia 2027 r. Zmianę opisuje Komisja Europejska.

AI Act (Rozporządzenie (UE) 2024/1689) zalicza określone systemy rekrutacyjne do wysokiego ryzyka. Klasyfikacja zależy od przeznaczenia systemu i reguł art. 6, w tym wyjątków. Obowiązki dostawcy i pracodawcy stosującego system nie są identyczne. Obejmują między innymi nadzór człowieka, dokumentację i rejestrowanie zdarzeń.

Zgodnie z art. 99 AI Act za naruszenie obowiązków przy systemach wysokiego ryzyka grozi grzywna do 15 mln euro albo 3% światowego rocznego obrotu (zależnie od tego, która kwota jest wyższa), a za praktyki zakazane do 35 mln euro albo 7% obrotu. Dla startupów i MŚP pułap działa odwrotnie: bierze się niższą z tych wartości (art. 99 ust. 6). Krajowe przepisy o karach i organ nadzoru rynku wyznacza już państwo członkowskie.

W Polsce kompetencje są podzielone między kilka organów. Równe traktowanie w zatrudnieniu, w tym dyskryminację pośrednią, reguluje Kodeks pracy (art. 18(3a)–18(3e)) i nadzoruje Państwowa Inspekcja Pracy (PIP); krajowym organem ds. równości jest Rzecznik Praw Obywatelskich (RPO); a prawa związane z decyzjami zautomatyzowanymi na gruncie RODO egzekwuje Urząd Ochrony Danych Osobowych (UODO). Zakres obowiązków trzeba ustalić dla konkretnego sposobu użycia systemu. Zapis decyzji pomaga w kontroli, ale sam nie przesądza o zgodności z prawem.

Wspólne kryteria, przegląd przez uprawnioną osobę i dokumentowanie decyzji pomagają kontrolować rekrutację. Nie zastępują oceny obowiązków prawnych dotyczących konkretnego systemu.

Jak kontrolować ocenę kandydatów wspomaganą AI

Jeśli chcesz osobiście kontrolować każdą decyzję, ogranicz AI do pomocy przy przeglądzie materiałów i wyłącz automatyczne przejścia. Następnie sprawdzaj działanie procesu:

1. Zostaw decyzję w rękach człowieka. Każde przejście dalej i każde odrzucenie powinno być zapisanym działaniem człowieka, nigdy cichym wynikiem modelu. Decyzję podejmuje ktoś odpowiedzialny, mając przed sobą całą aplikację.
2. Używaj AI do streszczania i porządkowania informacji. Pozwól modelom czytać, streszczać i porządkować informacje dla osoby oceniającej. Nie pozwalaj modelowi samodzielnie przyjmować ani odrzucać kandydatów.
3. Stosuj ustrukturyzowane etapy i standardowe karty oceny. Oceniaj każdego kandydata według tych samych zdefiniowanych kryteriów, a nie według nieprzejrzystego, indywidualnego wyniku. Wspólne kryteria ułatwiają sprawdzenie, skąd wynikają różnice w ocenach.
4. Zapisuj każdą decyzję z przypisanym uzasadnieniem. Powiąż każdą decyzję z konkretnym użytkownikiem i pisemnym powodem. Taki zapis wspiera kontrolę i ustalenie odpowiedzialności za decyzje.
5. Audytuj wyniki pod kątem nierównego wpływu. Sprawdzaj wskaźniki selekcji w podziale na grupy, osobno dla każdego stanowiska, a nie tylko zbiorczo. Wynik łączny może ukrywać dysproporcje na konkretnym stanowisku.

Ludzie również mają uprzedzenia. Nadzór jest użyteczny, gdy daje możliwość wykrycia błędu i zmiany decyzji, a nie sprowadza się do zatwierdzenia wyniku modelu.

Kryteria i reguły decyzji w Kit

W Kit zespół ustala kryteria i zasady głosowania dla etapów rekrutacji. Podsumowania AI pomagają przeglądać materiały, ale ustawienia procesu mogą też uruchamiać automatyczne przejścia.

• Karty oceny. Osoby oceniające korzystają z kryteriów zapisanych dla etapu.
• Automatyzacja głosowania. Kandydat może przejść dalej po zebraniu wymaganych ocen. Weto lidera może spowodować automatyczne odrzucenie, jeśli ta opcja jest włączona.
• Oczekujące decyzje. Sprawy nierozstrzygnięte przez skonfigurowane reguły trafiają do kolejki. Uprawniona osoba zapisuje decyzję i uzasadnienie. Ten zapis pomaga w kontroli procesu, ale nie jest potwierdzeniem zgodności z AI Act lub RODO.
• Dostęp asystenta. Asystent połączony przez MCP może wykonywać udostępnione czynności, w tym przesuwać i odrzucać kandydatów, w granicach uprawnień użytkownika. Dostęp do zapisu trzeba nadać świadomie.

Jeśli chcesz zatwierdzać każdą decyzję osobiście, sprawdź zarówno reguły głosowania, jak i dostęp asystenta. Samo używanie Kit nie oznacza osobnego potwierdzenia każdego przejścia.

Zakres działania asystentów opisujemy w tekstach Czym jest ATS z funkcjami AI oraz jak wdrożyć agentów rekrutacyjnych AI z MCP. Uprawnienia do działania wymagają osobnej uwagi.

Lista kontrolna przed uruchomieniem procesu

Ta lista dotyczy procesu, w którym człowiek ma zatwierdzać każdą decyzję. Pomaga sprawdzić konfigurację i dokumentację.

• Brak autonomicznych odrzuceń. Żaden kandydat nie zostaje odfiltrowany, zanim człowiek zobaczy aplikację.
• Wskazany decydent. Każde przejście dalej i każde odrzucenie jest przypisane do konkretnej, odpowiedzialnej osoby.
• Pisemne uzasadnienie. Każda decyzja ma zapisany powód, nie tylko zmianę statusu.
• Ustrukturyzowane etapy. Kandydaci przechodzą przez jawne, nazwane etapy z zapisem zmian.
• Standardowe karty oceny. Recenzenci oceniają według tych samych zdefiniowanych kryteriów dla danej roli.
• Zakres AI ograniczony do streszczeń. Modele porządkują informacje; nigdy nie decydują.
• Kontrola nierównego wpływu. Mierzysz wskaźniki selekcji w podziale na grupy, osobno dla każdego stanowiska (reguła czterech piątych jako wskaźnik pomocniczy; prawnym testem jest dyskryminacja pośrednia, bez sztywnego progu).
• Zachowana dokumentacja. Przechowujesz decyzje i logi systemu zgodnie z obowiązkami AI Act (art. 26 ust. 6) i zasadą rozliczalności RODO; tam, gdzie stosuje się art. 26 ust. 6, logi generowane automatycznie przez system przechowujesz co najmniej sześć miesięcy, chyba że prawo unijne lub krajowe stanowi inaczej.
• Powiadomienie kandydata, gdzie wymagane. Ujawniasz kandydatom zautomatyzowane narzędzia tam, gdzie nakazuje to prawo.

Najczęściej zadawane pytania

Czy narzędzia rekrutacyjne AI mogą być stronnicze rasowo? Tak. Badanie z 2026 roku prowadzone przez zespół ze Stanford, obejmujące 4,2 miliona aplikacji, wykazało wyraźne dysproporcje rasowe. Około 26% czarnoskórych i 15% azjatyckich kandydatów napotykało niekorzystny wpływ na poziomie pojedynczego stanowiska. Stronniczość może wynikać z cech zastępczych skorelowanych z rasą, nawet gdy rasa nigdy nie jest danymi wejściowymi.

Czy po usunięciu nazwisk i danych demograficznych ocena AI jest sprawiedliwa? Nie. Modele mogą wykorzystywać cechy zastępcze, takie jak kod pocztowy, uczelnia czy wzorce zachowań. Badany dostawca przeszedł zbiorczy audyt stronniczości, a mimo to analiza wyników dla poszczególnych stanowisk ujawniła dysproporcje.

Czy AI Act dotyczy rekrutacji w Polsce? Tak, określone zastosowania rekrutacyjne mieszczą się w załączniku III pkt 4 lit. a. Trzeba sprawdzić klasyfikację konkretnego systemu i odpowiednie obowiązki. Po zmianie harmonogramu reguły dla tej grupy systemów wysokiego ryzyka mają zastosowanie od 2 grudnia 2027 r. Nie oznacza to odroczenia obowiązków wynikających z RODO lub przepisów o równym traktowaniu.

Jakie kary grożą za naruszenie AI Act? Zgodnie z art. 99 za naruszenie obowiązków przy systemach wysokiego ryzyka grozi grzywna do 15 mln euro albo 3% światowego rocznego obrotu (zależnie od tego, co wyższe), a za praktyki zakazane do 35 mln euro albo 7% obrotu. Dla startupów i MŚP pułap działa odwrotnie i bierze się niższą z tych wartości (art. 99 ust. 6). Krajowe przepisy o karach i organ nadzoru rynku wyznacza państwo członkowskie.

Czym jest reguła czterech piątych? To amerykański wskaźnik pomocniczy EEOC, który sygnalizuje potencjalny nierówny wpływ, gdy wskaźnik selekcji grupy chronionej spada poniżej 80% wskaźnika grupy najbardziej faworyzowanej. W omawianym badaniu zastosowano go osobno dla każdego stanowiska. Właśnie tam dysproporcje stały się wyraźne. W polskim i unijnym prawie nie ma jednak takiego sztywnego progu: właściwym testem jest dyskryminacja pośrednia (Kodeks pracy art. 18(3a)), więc reguła czterech piątych jest dla polskiego pracodawcy narzędziem analitycznym, a nie linią graniczną zgodności z prawem.

Co z tego wynika

Badanie pokazuje, że wspólny model może powielać niekorzystne wyniki u wielu pracodawców, a zbiorczy audyt może ich nie wykryć. Dlatego warto analizować wyniki osobno dla stanowisk, ustalić odpowiedzialność za decyzje i zapewnić rzeczywisty przegląd materiałów.

Dokumentacja pozwala sprawdzić przebieg procesu. Nie dowodzi sama w sobie, że ocena była trafna lub wolna od uprzedzeń.

Jeśli chcesz zobaczyć funkcje AI wspierające ocenę człowieka w praktyce, możesz sprawdzić, jak Kit podchodzi do AI w rekrutacji albo zacząć darmowy okres próbny.