Stronniczość AI przy screeningu CV: zbuduj rekrutację, którą obronisz

Żeby używać AI w rekrutacji bez stronniczości rasowej, zostaw decyzję w rękach człowieka, używaj AI wyłącznie do streszczania i wydobywania kontekstu o kandydacie, prowadź ustrukturyzowane etapy ze standardowymi kartami oceny, zapisuj każdą decyzję z przypisanym uzasadnieniem i audytuj wyniki pod kątem nierównego wpływu na grupy chronione (pomocniczo: reguła czterech piątych jako heurystyka przesiewowa). Największe jak dotąd badanie realnych decyzji rekrutacyjnych podejmowanych z udziałem AI wykazało wyraźne dysproporcje rasowe w algorytmicznym screeningu kandydatów — a trwałym lekarstwem nie jest mądrzejsza czarna skrzynka. To proces, w którym możesz pokazać, jak doszło do decyzji.

Co naprawdę wykazało największe badanie rekrutacji z AI

W badaniu z 2026 roku, prowadzonym przez zespół ze Stanford, przeanalizowano 4 197 168 aplikacji od 3 372 132 kandydatów na 1746 stanowisk u 156 pracodawców, ocenianych przez jednego dostawcę między grudniem 2018 a grudniem 2022 roku. Wykazało ono wyraźne dysproporcje rasowe w tym, kogo algorytm rekomendował. Mierzone tak, jak wymagają tego wytyczne obowiązujące w USA — z regułą czterech piątych EEOC stosowaną osobno dla każdego stanowiska — okazało się, że około 26% czarnoskórych kandydatów i 15% kandydatów pochodzenia azjatyckiego aplikowało na co najmniej jedno stanowisko, gdzie wyniki modelu przekraczały próg niekorzystnego wpływu wobec ich grupy.

Badacze szacują, że około 40 000 aplikacji więcej od kandydatów czarnoskórych i azjatyckich przeszłoby dalej, gdyby ich wskaźniki rekomendacji były na poziomie grupy najbardziej faworyzowanej. To nie jest błąd zaokrąglenia. To główny wniosek z największego zbioru danych o realnych wynikach rekrutacji z AI, jaki ktokolwiek zebrał.

Dla ścisłości jedno wyjaśnienie ma znaczenie. Badany dostawca ocenia kandydatów przez gry behawioralne, a nie przez dosłowne parsowanie CV. Nagłówkowe sformułowanie o „screeningu CV” to uogólnienie, bo właśnie tak ludzie szukają tego problemu i o nim mówią. Precyzyjny termin to algorytmy AI do screeningu kandydatów, a badanie obejmuje screening szeroko, a nie jeden konkretny parser CV. Wniosek przekłada się na każde narzędzie, które ocenia i filtruje kandydatów, zanim spojrzy na nich człowiek.

Jeśli chcesz pełnego rozbioru badania i stojącego za nim argumentu o autonomii, opisaliśmy to w tekście Stronniczość AI w rekrutacji to nie problem AI, to problem autonomii. Ten artykuł jest jego praktyczną kontynuacją: skoro znamy wyniki, jak zbudować proces rekrutacji, którego da się naprawdę obronić?

Dlaczego AI „ślepe na dane demograficzne” wciąż dyskryminuje

Usunięcie nazwisk, zdjęć i pól demograficznych nie czyni modelu sprawiedliwym. Modele chwytają się cech zastępczych — atrybutów skorelowanych z rasą, nawet gdy rasa nigdy nie jest danymi wejściowymi. Kod pocztowy, uczelnia, przerwy w zatrudnieniu, a w tym przypadku wzorce gry — wszystko to może podstawić się pod cechy chronione.

Badany dostawca przeszedł niezależny audyt stronniczości na poziomie zagregowanym. Dysproporcje i tak się ujawniły, gdy badacze zdezagregowali dane do poziomu pojedynczego stanowiska, którego faktycznie wymaga prawo USA. Jak ujął to Rishi Bommasani ze Stanford: „cechy gry wciąż są nierównomiernie rozłożone między grupami rasowymi, a ten nierówny rozkład przekłada się na dysproporcje w tym, które grupy zostają wybrane”.

Wniosek dla każdego, kto czuje się bezpiecznie, bo dostawca „przeszedł audyt”: audyt zagregowany może ukryć szkodę na poziomie konkretnego stanowiska. „Zaudytowaliśmy nasz model” to nie to samo co „żaden kandydat nie ucierpiał”. Właśnie dlatego dającym się obronić wzorcem nie jest lepsze zaślepianie danych. To utrzymanie w decyzji odpowiedzialnego człowieka — z zapisem, dlaczego.

Systemowe odrzucenie i algorytmiczna monokultura

Kiedy ten sam model dominuje w branży, odrzucenie w jednej firmie przestaje być niezależne od odrzucenia w innej. Badanie nazywa to algorytmiczną monokulturą: zidentyfikowano zaledwie 42 odrębne modele współdzielone przez 156 pracodawców. Konsekwencją jest systemowe odrzucenie. Wśród kandydatów, którzy aplikowali na cztery stanowiska wykorzystujące ten sam algorytm, około 10% zostało odrzuconych przez wszystkie — to wskaźnik znacznie wyższy, niż przewidywałyby niezależne decyzje.

Dwa szczegóły pogarszają sprawę. Wyniki oceny były ponownie wykorzystywane przez nawet 330 dni, więc jeden zły odczyt chodził za kandydatem przez prawie rok. A pracodawcy reprezentowali łącznie około 225 miliardów dolarów przychodu, co oznacza, że dotknięte lejki rekrutacyjne nie były niszowe. Kandydata, którego model akurat nie polubił, jeden klasyfikator — o którym ten nigdy nie wiedział, że decyduje — mógł odfiltrować z całej branży.

To różnica między nieudaną rozmową a zamkniętymi drzwiami. To też powód, dla którego rozwiązanie musi być strukturalne. Przegląd przez człowieka w obrębie pojedynczej firmy przełamuje monokulturę, bo żaden jeden współdzielony model nie wydaje wyroku obowiązującego całą branżę.

Regulacje idą w stronę przeglądu przez człowieka, a nie od niego

Dla polskiego pracodawcy nie ma żadnej amerykańskiej układanki stanowych ustaw — jest jedno, stosowane wprost rozporządzenie: unijny AI Act (Rozporządzenie (UE) 2024/1689). AI używane do rekrutacji, filtrowania i oceny kandydatów oraz do decyzji o zatrudnieniu jest w nim sklasyfikowane jako system AI wysokiego ryzyka (Załącznik III pkt 4 lit. a). A to pociąga za sobą twarde obowiązki: nadzór człowieka (art. 14), przejrzystość, dokumentację techniczną, rejestrowanie zdarzeń (logi) oraz zarządzanie jakością i ryzykiem stronniczości. Dla systemów wysokiego ryzyka obowiązki te stają się egzekwowalne od 2 sierpnia 2026 roku.

Kary też nie są symboliczne. Zgodnie z art. 99 AI Act za naruszenie obowiązków przy systemach wysokiego ryzyka grozi grzywna do 15 mln euro albo 3% światowego rocznego obrotu (zależnie od tego, która kwota jest wyższa), a za praktyki zakazane — do 35 mln euro albo 7% obrotu. Dla startupów i MŚP pułap działa odwrotnie: bierze się niższą z tych wartości (art. 99 ust. 6). Krajowe przepisy o karach i organ nadzoru rynku wyznacza już państwo członkowskie.

W Polsce nie ma jednego odpowiednika amerykańskiej EEOC — egzekwowanie jest rozproszone. Równe traktowanie w zatrudnieniu, w tym dyskryminację pośrednią, reguluje Kodeks pracy (art. 18(3a)–18(3e)) i nadzoruje Państwowa Inspekcja Pracy (PIP); krajowym organem ds. równości jest Rzecznik Praw Obywatelskich (RPO); a prawa związane z decyzjami zautomatyzowanymi na gruncie RODO egzekwuje Urząd Ochrony Danych Osobowych (UODO). Niezależnie od organu wspólny mianownik jest ten sam: zautomatyzowanej decyzji musi towarzyszyć odpowiedzialny człowiek i ślad dokumentacyjny.

Strategiczny wniosek jest prosty. Filary opisane w tym artykule — człowiek jako decydent, AI ograniczone do streszczania, rejestrowanie decyzji, kontrola pod kątem nierównego wpływu — niemal jeden do jednego pokrywają się z obowiązkami, jakie AI Act nakłada na podmiot stosujący system wysokiego ryzyka od 2 sierpnia 2026 roku. Budując proces przeglądany przez człowieka i poddający się audytowi, nie tylko zabezpieczasz się przed sporem — przygotowujesz firmę na AI Act. Bo każda regulacja, która przetrwa, pyta o ten sam dowód: kto zdecydował, na jakiej podstawie i czy potrafisz to wykazać.

Jak pracodawcy mogą używać AI w rekrutacji bez stronniczości?

Trzymaj AI w roli pomocniczej, a decyzję pozostaw odpowiedzialnemu człowiekowi. Poniższy wzorzec odpowiada temu, o co prosi każda przetrwała regulacja — i jest dokładnie tym, czego brak obnażają wyniki ze Stanford.

1. Zostaw decyzję w rękach człowieka. Każde przejście dalej i każde odrzucenie powinno być zalogowanym działaniem człowieka, nigdy cichym wynikiem modelu. Decyzję podejmuje ktoś odpowiedzialny, mając przed sobą całą aplikację.
2. Używaj AI wyłącznie do streszczania i wydobywania kontekstu. Pozwól modelom czytać, streszczać i osadzać kandydatów w kontekście dla człowieka, który robi przegląd. Nigdy nie pozwól modelowi samodzielnie zaakceptować ani odrzucić.
3. Stosuj ustrukturyzowane etapy i standardowe karty oceny. Oceniaj każdego kandydata według tych samych zdefiniowanych kryteriów, a nie według nieprzejrzystego, indywidualnego wyniku. Struktura to antidotum na to, by stronniczość przez cechy zastępcze wkradała się niezauważona.
4. Zapisuj każdą decyzję z przypisanym uzasadnieniem. Powiąż każdą decyzję z konkretnym użytkownikiem i pisemnym powodem. To twój dowód zarówno na potrzeby nadzoru człowieka z AI Act, jak i zasady rozliczalności z RODO.
5. Audytuj wyniki pod kątem nierównego wpływu. Sprawdzaj wskaźniki selekcji w podziale na grupy, osobno dla każdego stanowiska, a nie zbiorczo — bo audyty zagregowane ukrywają szkodę na poziomie pojedynczego stanowiska.

Jedno uczciwe zastrzeżenie: człowiek w pętli ogranicza stronniczość, ale jej nie wymazuje, bo ludzie też niosą uprzedzenia. Rzecz w tym, że decyzja człowieka jest odpowiedzialna, dająca się skorygować i poddająca się kontroli. Autonomiczny wyrok modelu, którego nikt nigdy nie widzi, nie ma żadnej z tych cech.

Jak Kit jest zbudowany pod rekrutację, którą da się obronić i audytować

Kit zaprojektowano jako przeciwieństwo autonomicznego narzędzia do screeningu opisanego w badaniu. AI czyta; twój zespół decyduje; każda decyzja jest na piśmie. Efektem jest szybkość bez oddawania decyzji — i wyroku — modelowi.

• AI wydobywa, ludzie decydują. AI w Kit zwraca człowiekowi, który robi przegląd, streszczenia kandydatów, historię etapów, szczegóły zgłoszenia, odpowiedzi z formularzy i notatki zespołu. Model jest asystentem researchu, który pomaga człowiekowi czytać szybciej i sprawiedliwiej. Nie ocenia ani nie odrzuca nikogo automatycznie.
• Decyzje są przypisane i audytowane z założenia. Kiedy recenzent przesuwa kandydata dalej lub go odrzuca, Kit zapisuje przypisaną, audytowaną decyzję powiązaną z działającym użytkownikiem, z obowiązkowym uzasadnieniem. Decydować może tylko lider etapu, hiring manager albo administrator. To odpowiedzialność człowieka i wbudowany ślad dokumentacyjny — dokładnie to, czego wymagają nadzór człowieka z AI Act i prawo do interwencji człowieka z art. 22 RODO.
• Ustrukturyzowane etapy i oceny na kartach. Kandydaci przechodzą przez jawne, nazwane etapy i są oceniani według tych samych kryteriów, a uzasadnienie zostaje zapisane. Żadnego nieprzejrzystego wyniku porównującego kandydatów, żadnej decyzji „nigdy nie widzianej przez człowieka”.
• Brak uwięzienia w monokulturze. Ponieważ Kit nigdy nie oddaje decyzji o akceptacji czy odrzuceniu współdzielonemu, branżowemu modelowi, los kandydata nie jest z góry przesądzony przez jeden klasyfikator wdrożony w całej branży. Przegląd przez człowieka w obrębie firmy przełamuje monokulturę.

Jeśli ważysz, czy twój stack jest pomocniczy, czy autonomiczny, warto zrozumieć różnicę architektoniczną. Rozkładamy to na części w tekstach Czym jest ATS natywnie oparty na AI oraz jak wdrożyć agentów rekrutacyjnych AI z MCP, nie pozwalając im podejmować ostatecznej decyzji.

Lista kontrolna rekrutacji wspomaganej AI, którą da się obronić

Użyj tego jako kontroli przed startem, zanim dopuścisz jakiekolwiek AI do swojego lejka. Jeśli na wszystkie te punkty odpowiesz „tak”, masz proces, który obronisz przed kandydatem, regulatorem albo sądem.

• Brak autonomicznych odrzuceń. Żaden kandydat nie zostaje odfiltrowany, zanim człowiek zobaczy aplikację.
• Wskazany decydent. Każde przejście dalej i każde odrzucenie jest przypisane do konkretnej, odpowiedzialnej osoby.
• Pisemne uzasadnienie. Każda decyzja niesie zapisany powód, nie tylko zmianę statusu.
• Ustrukturyzowane etapy. Kandydaci przechodzą przez jawne, nazwane, logowane etapy.
• Standardowe karty oceny. Recenzenci oceniają według tych samych zdefiniowanych kryteriów dla danej roli.
• Zakres AI ograniczony do streszczeń. Modele streszczają i wydobywają; nigdy nie decydują.
• Kontrola nierównego wpływu. Mierzysz wskaźniki selekcji w podziale na grupy, osobno dla każdego stanowiska (reguła czterech piątych jako heurystyka; prawnym testem jest dyskryminacja pośrednia, bez sztywnego progu).
• Zachowana dokumentacja. Przechowujesz decyzje i logi systemu zgodnie z obowiązkami AI Act (art. 26 ust. 6) i zasadą rozliczalności RODO; AI Act wyznacza tu sztywne minimum — logi generowane automatycznie przez system trzymasz co najmniej sześć miesięcy, chyba że prawo unijne lub krajowe stanowi inaczej.
• Powiadomienie kandydata, gdzie wymagane. Ujawniasz kandydatom zautomatyzowane narzędzia tam, gdzie nakazuje to prawo.

Najczęściej zadawane pytania

Czy narzędzia rekrutacyjne AI mogą być stronnicze rasowo? Tak. Badanie z 2026 roku prowadzone przez zespół ze Stanford, obejmujące 4,2 miliona aplikacji, wykazało wyraźne dysproporcje rasowe — około 26% czarnoskórych i 15% azjatyckich kandydatów napotykało niekorzystny wpływ na poziomie pojedynczego stanowiska. Stronniczość wchodzi przez cechy zastępcze skorelowane z rasą, nawet gdy rasa nigdy nie jest danymi wejściowymi.

Czy usunięcie nazwisk i danych demograficznych czyni screening AI sprawiedliwym? Nie. Modele chwytają się cech zastępczych, takich jak kod pocztowy, uczelnia czy wzorce zachowań. Badany dostawca przeszedł zagregowany audyt stronniczości, a i tak pokazał dysproporcje na poziomie stanowiska, gdy tylko wyniki zdezagregowano.

Czy AI Act dotyczy rekrutacji w Polsce? Tak. Unijny AI Act (Rozporządzenie (UE) 2024/1689) klasyfikuje AI używane do rekrutacji oraz do filtrowania i oceny kandydatów jako system AI wysokiego ryzyka (Załącznik III pkt 4 lit. a). Wiążą się z tym obowiązki: nadzór człowieka (art. 14), przejrzystość, dokumentacja techniczna, rejestrowanie zdarzeń i zarządzanie ryzykiem stronniczości — egzekwowalne dla systemów wysokiego ryzyka od 2 sierpnia 2026 roku. To jedno rozporządzenie stosowane wprost, bez krajowej układanki przepisów.

Jakie kary grożą za naruszenie AI Act? Zgodnie z art. 99 za naruszenie obowiązków przy systemach wysokiego ryzyka grozi grzywna do 15 mln euro albo 3% światowego rocznego obrotu (zależnie od tego, co wyższe), a za praktyki zakazane — do 35 mln euro albo 7% obrotu. Dla startupów i MŚP pułap działa odwrotnie i bierze się niższą z tych wartości (art. 99 ust. 6). Krajowe przepisy o karach i organ nadzoru rynku wyznacza państwo członkowskie.

Czym jest reguła czterech piątych? To amerykańska heurystyka EEOC, która sygnalizuje potencjalny nierówny wpływ, gdy wskaźnik selekcji grupy chronionej spada poniżej 80% wskaźnika grupy najbardziej faworyzowanej. W omawianym badaniu zastosowano ją osobno dla każdego stanowiska — i właśnie tam dysproporcje stały się wyraźne. W polskim i unijnym prawie nie ma jednak takiego sztywnego progu: właściwym testem jest dyskryminacja pośrednia (Kodeks pracy art. 18(3a)), więc reguła czterech piątych jest dla polskiego pracodawcy narzędziem analitycznym, a nie linią graniczną zgodności z prawem.

Co z tego wynika

Lekcją płynącą z 4,2 miliona ocenionych aplikacji nie jest to, że AI nie ma miejsca w rekrutacji. Jest nią to, że AI nigdy nie powinno mieć ostatniego słowa. Szkoda, którą dokumentuje badanie, to autonomia i nieprzejrzystość: model, który odrzuca kompetentne osoby, zanim spojrzy na nie człowiek, powielony w całej branży, aż odrzucenie staje się zamkniętymi drzwiami.

Rekrutacja, której da się obronić, jest tego przeciwieństwem z założenia. AI czyta, twój zespół decyduje, a każda decyzja jest na piśmie, z uzasadnieniem, które możesz pokazać. Ten wzorzec jest szybszy niż przegląd ręczny, sprawiedliwszy niż czarna skrzynka i trwały wobec tego, jaka regulacja wejdzie w życie jako następna.

Jeśli chcesz zobaczyć pomocnicze AI połączone z przeglądem przez człowieka w praktyce, możesz sprawdzić, jak Kit podchodzi do AI w rekrutacji albo zacząć darmowy okres próbny.