KI-Empfehlungen beim Recruiting machen Sie selbstsicherer – und öfter falsch

Automation Bias beim Recruiting ist die Neigung, einer selbstsicheren KI-Empfehlung – einer Kandidatenbewertung, einer sortierten Auswahlliste oder einer Interview-Zusammenfassung – blind zu vertrauen und das eigene Urteil auszusetzen. Neue Forschung zeigt: Die Gefahr liegt nicht darin, dass die KI hin und wieder danebenliegt. Sie liegt darin, dass Sie nach einer flüssigen, entschiedenen KI-Antwort mehr beantworten, sich weit sicherer fühlen und messbar ungenauer werden – selbst wenn die Empfehlung schlicht falsch ist.

Die Studie lässt sich schwer abtun. Über fünf Experimente mit 3.132 Teilnehmenden hinweg senkte allein die Verfügbarkeit von KI die Trefferquote von 27,5 % auf 9,2 %, während die Selbstsicherheit von 30 auf 76 von 100 stieg. Die Menschen beantworteten nur noch etwa ein Drittel der Fragen richtig und fühlten sich mehr als doppelt so sicher. Beim Recruiting entscheidet genau das über alles: Eine glatte KI-Bewertung kann Ihre Entscheidungen verschlechtern, während Ihr Team sich damit besser fühlt als je zuvor.

Die Studie, die jeder KI-Recruiting-Einkäufer lesen sollte

Chiara Marcoccia (École Normale Supérieure), Walter Quattrociocchi (Universität La Sapienza, Rom) und Valerio Capraro (Universität Mailand-Bicocca) führten fünf Experimente durch – vier präregistriert plus eine direkte Replikation – mit 3.132 Teilnehmenden. Ihr Preprint von 2026 trägt einen unmissverständlichen Titel: „AI advice suppresses people’s willingness to say ‘I don’t know’, even when the advice is wrong and accuracy is incentivized.“

Ein Detail im Studiendesign ist entscheidend: Die Forschenden verwendeten bewusst Fragen, die die KI falsch beantwortet. Es ging um Detailfragen zu visuellen Szenen aus Filmen, und das Modell, das den Teilnehmenden zur Seite gestellt wurde, scheiterte daran zuverlässig. Der Einbruch der Trefferquote und der Sprung der Selbstsicherheit lassen sich also nicht damit wegwischen, dass „Menschen einem guten Werkzeug vernünftigerweise vertrauen“. Das Werkzeug war schlecht, und man vertraute ihm trotzdem.

Das gepoolte Ergebnis lautet in den Worten der Autoren, dass ohne finanzielle Anreize „die Teilnehmer mehr Fragen beantworteten, aber nur etwa ein Drittel so oft richtig lagen wie ohne verfügbare KI (gepoolte Korrektheit: 27,5 % vs. 9,2 %)“. Zugleich sei „die Selbstsicherheit rund zweieinhalbmal so hoch“ gewesen (mittlere Selbstsicherheit: 29,6 vs. 75,9). Mehr Antworten, mehr Gewissheit, schlechtere Trefferquote. Eben diese Umkehrung ist die ganze Warnung.

Automation Bias – definiert, und warum Recruiting die perfekte Falle ist

Automation Bias ist die Neigung, einer selbstsicheren KI-Empfehlung übermäßig zu vertrauen und das eigene, unabhängige Urteil einzustellen. Es ist keine Wissenslücke. Es ist eine Lücke in der Metakognition – ein Versagen des Gespürs dafür, wie viel man tatsächlich weiß. Die Marcoccia-Studie maß dieses Versagen direkt, indem sie eine einzige Sache verfolgte: wie oft Menschen noch bereit waren zu sagen „Ich weiß es nicht“.

Die Antwort brach ein. In einem Experiment fiel die „Ich weiß es nicht“-Quote von 44 % auf 3 %, sobald KI verfügbar war. In einem anderen von 36 % auf 6 %. Das Abstract fasst es nüchtern zusammen: KI habe „die Bereitschaft der Teilnehmer, ihr Urteil zurückzustellen, nahezu ausgelöscht“. Capraro brachte gegenüber The Next Web auf den Punkt, worum es geht: „Die Fähigkeit zu sagen ‚Ich weiß es nicht’ ist sehr wichtig, weil sie das Erkennen der Grenzen unseres eigenen Wissens darstellt.“

Recruiting ist genau das Umfeld, für das diese Warnung geschrieben wurde. Ein Recruiter unter Zeitdruck öffnet eine sortierte Auswahlliste oder eine KI-Zusammenfassung eines Interviews. Das Urteil ist selbstsicher, flüssig und konkret. Also endet die Diskussion. Niemand sagt mehr „Ehrlich gesagt bin ich mir bei diesem Kandidaten nicht sicher“, weil die Bewertung schon sicher klingt. Das Kennzeichen guten Urteilsvermögens – kalibrierter Zweifel – verschwindet als Erstes.

Was ist Automation Bias beim Recruiting? Es ist die Neigung, einer selbstsicheren KI-Empfehlung – einer Kandidatenbewertung, einer sortierten Auswahlliste oder einer Interview-Zusammenfassung – übermäßig zu vertrauen und das eigene Urteil einzustellen. Neue Forschung (Marcoccia et al., 2026; N=3.132) zeigt: KI-Empfehlungen führen dazu, dass Menschen mehr beantworten, sich weit selbstsicherer fühlen und ungenauer werden – die Trefferquote fiel von 27,5 % auf 9,2 %, während die Selbstsicherheit von 30 auf 76 von 100 stieg, obwohl die KI falschlag. Beim Recruiting kann eine glatte KI-Bewertung Entscheidungen verschlechtern, während das Team sich sicherer fühlt.

Das entscheidende Detail: Es machte keinen Unterschied, ob die KI gefragt oder nur angezeigt wurde

Dies ist der Befund, der ändern sollte, wie Sie Recruiting-Software bewerten. In einem Experiment eliminierten die Forschenden die Wahlmöglichkeit vollständig. Statt die Teilnehmer die KI-Empfehlung anfordern zu lassen, zeigten sie sie automatisch an – ungefragt, bevor die Person sich auf eine Antwort festlegte. Der Effekt blieb bestehen. Ohne Anreize brach die Bereitschaft, das Urteil zurückzustellen, von 0,35 auf 0,01 ein.

Lesen Sie das noch einmal und denken Sie dabei an Ihr ATS. Die meisten KI-nativen Recruiting-Tools warten nicht, bis Sie fragen. Sie zeigen standardmäßig eine Kandidatenbewertung an. Sie erzeugen automatisch eine Interview-Zusammenfassung und setzen sie an den Anfang der Notizen zum Auswertungsgespräch. Sie sortieren die Auswahlliste, bevor sich ein Mensch auch nur eine einzige unabhängige Meinung gebildet hat. Eben diese Bedingung erwies sich in der Studie als die zersetzendste: ein selbstsicheres Urteil, das Ihnen vorgelegt wird, bevor Sie denken.

Das Design Ihrer Tools ist hier nicht neutral. Eine Oberfläche, die zuerst eine entschiedene Zahl zeigt und erst danach die Belege (falls überhaupt), baut den Automation-Bias-Effekt in jede Stellenbesetzung ein, die Sie durchführen.

„Sagen Sie den Recruitern einfach, sie sollen kritisch denken“ funktioniert nicht

Die naheliegende Lösung ist Rechenschaft. Bezahlen Sie Menschen dafür, richtig zu liegen, bestrafen Sie sie für Fehler – dann werden sie schon innehalten und die KI überprüfen. Genau das testeten die Forschenden. Es half, aber es löste das Problem bei Weitem nicht.

Wenn Genauigkeit belohnt und Fehler bestraft wurden, forderten die Menschen die KI etwas seltener an und lagen etwas häufiger richtig. Doch selbst unter den besten Anreizbedingungen blieb die Urteilsqualität weit unter dem Ausgangswert ohne KI. In einer Studie stellte die Gruppe mit KI plus Anreizen ihr Urteil noch immer nur in 8 % der Fälle zurück und erreichte gerade einmal 16 % Trefferquote – weit entfernt von den 27,5 %, die die Menschen ohne verfügbare KI schafften. Wie die Autoren es formulieren: Selbst wenn Genauigkeit belohnt wurde, verließen sich die Menschen weiter auf die KI.

Die praktische Übersetzung für Recruiting-Verantwortliche ist unbequem: Eine Schulungsfolie, die Recruitern sagt, sie sollen „KI als Werkzeug nutzen, nicht als Krücke“, ist keine Kontrolle. Gute Absichten und selbst finanzielle Anreize heben den Effekt nicht auf. Wenn Sie unabhängiges menschliches Urteilsvermögen wollen, müssen Sie den Prozess so gestalten, dass er es erzwingt – nicht bloß darum bittet.

Es ist kein Problem schwacher Modelle

Sie könnten annehmen, die Forschenden hätten das mit einem schlechten Modell manipuliert und ein Spitzenmodell verhielte sich anders. Damit haben sie gerechnet. Sie wählten bewusst ein Modell, das bei diesen Fragen zuverlässig irrt, und vergewisserten sich anschließend, dass auch die führenden Modelle an denselben Fragen scheitern. GPT-5.5, Claude Sonnet 4.6 und Gemini 3.5 Flash lagen allesamt falsch.

Das ist der Kern. Das Problem ist nicht die Genauigkeit irgendeines einzelnen Modells. Es ist die übermäßige menschliche Unterordnung unter eine flüssige, entschiedene Antwort, ganz gleich, ob sie richtig ist. Ein besseres Modell beseitigt den Mechanismus nicht. Es verschlimmert ihn womöglich, denn eine geschliffenere, selbstsicherer klingende falsche Antwort ist genau das, was Ihren Zweifel am wirksamsten unterdrückt.

Das schließt an eine parallele Forschungslinie von Shaw und Nave aus dem Jahr 2026 an, die sie „kognitive Kapitulation“ nennen: Menschen, die eine irrende KI zurate zogen, wurden ungenauer und zugleich selbstsicherer – selbst nachdem sie die Fehler gesehen hatten –, und weder Anreize noch Zeitdruck beseitigten das Muster. Zwei unabhängige Forschungsgruppen, die zur selben Warnung gelangen. Flüssigkeit, nicht Genauigkeit, gewinnt Ihr Vertrauen – und das sollte sie nicht.

Wie das in Ihrem Recruiting-Prozess aussieht

Das Labor nutzte Filmquizfragen, doch der Mechanismus überträgt sich nahtlos auf das Recruiting. Die folgenden Szenarien sind veranschaulichend und stützen sich auf die Befunde der Studie – keine dokumentierten Fallstudien.

• Das Abnicken der sortierten Auswahlliste. Ein Prüfer öffnet eine KI-bewertete Liste, arbeitet sie von oben nach unten ab und lehnt alle unterhalb einer Trennlinie ab, ohne eine einzige Bewerbung zu öffnen. Das ist das Muster „mehr beantworten, weniger zweifeln“ aus der automatisch angezeigten Bedingung – angewandt auf die Karrieren echter Menschen.
• Die KI-Zusammenfassung als Urteil. Eine Personalverantwortliche, die nur die Hälfte eines Interviews mitbekommen hat, liest die KI-Zusammenfassung („starke Kommunikatorin, schwach im Systemdesign“) und geht bereits verankert ins Auswertungsgespräch – ohne sich noch ein eigenes Bild zu machen.
• Selbstsicherheit ohne Kalibrierung. Auswahlgremien, die früher sagten „Bei dieser Person bin ich mir nicht sicher“, einigen sich nun schnell auf die Deutung der KI und melden hohe Selbstsicherheit. Das ist der Sprung der Selbstsicherheit von 30 auf 76 – nur eben im Konferenzraum.
• Die Prüflücke. Wenn ein abgelehnter Kandidat sich beschwert oder ein Bias-Audit läuft, zeigt die Aktenlage, dass die menschliche Entscheidung jedes einzelne Mal mit der KI-Bewertung übereinstimmte. Es gibt keinen Beleg für unabhängiges Urteilsvermögen – und genau den wollen Aufsichtsbehörden und Gerichte sehen.

Das ist der kognitive Verwandte von Fehlern, über die Kit schon zuvor geschrieben hat: die mengengetriebene KI-Recruiting-Abwärtsspirale und der Zusammenbruch des menschlichen Urteils durch Gruppendenken im Auswertungsgespräch. Automation Bias ist Gruppendenken mit einer Maschine – und die Maschine relativiert nie.

Wie ein KI-natives ATS gegen Automation Bias gestaltet sein sollte

Wenn ein selbstsicheres Urteil das ist, was das eigene Urteil unterdrückt, dann besteht die Aufgabe des Produkts darin, Ihnen ein solches Urteil nicht vorschnell zu liefern. Ein KI-natives ATS sollte gegen diesen Effekt gestaltet sein – nicht mit einer glatten Bewertung geschmückt, die ihn verstärkt. Vier Prinzipien folgen unmittelbar aus der Forschung.

1. Kalibrierte Unsicherheit zeigen, keine falsche Präzision

Der Fehlermodus ist das Verschwinden des „Ich weiß es nicht“. Das Werkzeug sollte es also sagen können. Statt jeden Kandidaten in eine selbstsicher wirkende Bewertung von 0 bis 100 zu zwingen, sollte das Produkt einen ausdrücklichen Zustand „unzureichende Belege für eine Einordnung“ unterstützen und Spannen und Konfidenz anzeigen statt einer einzelnen, entschiedenen Zahl. Eine Zahl lädt zur Kapitulation ein. Ein ehrliches „wir wissen noch nicht genug“ lädt einen Menschen ein, es herauszufinden.

2. Begründung und Belege zeigen, keine nackte Bewertung

Menschen ordnen sich der Flüssigkeit zu sehr unter – also begegnen Sie der Flüssigkeit mit Belegen. Lassen Sie die KI ihre Arbeit belegen: die konkreten Zeilen im Lebenslauf, die Interviewantworten oder die Signale aus Arbeitsproben hinter jedem Vorschlag, damit der Mensch Belege bewertet statt eines Urteils. Das ist dieselbe Logik wie hinter strukturierten Interview-Scorecards und kompetenzbasiertem, belegorientiertem Recruiting: Entschieden wird auf Grundlage des Signals, nicht der Zusammenfassung. Belege laden zur Prüfung ein; eine Bewertung lädt zum Nicken ein.

3. Bei jeder Phase eine ausdrückliche menschliche Entscheidung erzwingen

Der vernichtendste Befund der Studie ist, dass automatisch angezeigte Empfehlungen genauso zersetzend wirken wie angeforderte. Phasenübergänge sollten daher eine bejahende menschliche Entscheidung verlangen – weiterführen oder ablehnen, mit Begründung, nie ein „die Reihenfolge der KI übernehmen“ per Klick. Das Ziel ist, die Zustimmung zur KI zu einem bewussten Akt zu machen statt zur Voreinstellung. Kits Phasenübergänge sind als ausdrückliche menschliche Entscheidungen mit Scorecards gebaut, sodass ein Prüfer sich auf ein Urteil festlegt, statt eines zu übernehmen. Das ist das Gegenteil davon, sich bei der Bewertung zu sehr auf KI zu verlassen.

4. Prüfen, wo KI und Ergebnisse auseinandergehen

Da sich Selbstsicherheit von Genauigkeit abkoppelt, können Sie dem Gefühl, dass das System funktioniert, nicht trauen. Sie müssen es messbar machen. Verfolgen Sie, wo KI-Empfehlungen und endgültige menschliche Entscheidungen übereinstimmen und wo sie auseinandergehen, und markieren Sie Prüfer, die dem Modell kein einziges Mal widersprechen – das ist Ihr Signal fürs bloße Abnicken. Ein Prüfer mit einer Zustimmungsquote von 100 % bestätigt die KI nicht. Er ist kein Prüfer mehr.

Kit kann dieses Argument glaubwürdig vertreten, weil es um überprüfbare Signale, strukturierte Scorecards und menschliche Entscheidungspunkte herum gebaut ist statt um eine per Schlagwort abgeglichene Bewertung. Dieselbe Architektur, die der Abwärtsspirale entkommt, widersteht auch dem Automation Bias. Unsere Haltung ist einfach: Wir liefern keine selbstsichere KI-Bewertung aus, die das Recruiting verschlechtert, während alle sich sicherer fühlen, es sei besser geworden. Das ist die ganze Prämisse eines KI-nativen ATS, das den Namen verdient.

„Wir haben der KI zugestimmt“ ist keine Verteidigung

Es gibt hier auch eine Compliance-Dimension. Recruiting gilt anerkanntermaßen als KI-Einsatz mit hohem Risiko, und eine wirksame menschliche Aufsicht wird zunehmend zur gesetzlichen Pflicht statt zur netten Zugabe – unter dem EU AI Act mit seinen Pflichten für Hochrisiko-Recruiting, den Vorgaben von Art. 22 DSGVO, der ausschließlich auf automatisierter Verarbeitung beruhende Entscheidungen mit erheblicher Wirkung untersagt – wozu die automatisierte Ablehnung oder Sortierung von Bewerbern zählt –, und dem Diskriminierungsschutz des AGG. Die Marcoccia-Befunde machen aus „der Mensch hat dem Modell einfach zugestimmt“ ein Haftungsproblem statt eines Qualitätsproblems.

Wenn Ihr Prüfprotokoll zeigt, dass ein Mensch jede KI-Empfehlung abgezeichnet hat, ohne ein einziges unabhängiges Urteil oder Übersteuern, dann haben Sie das Fehlen von Aufsicht dokumentiert, nicht ihr Vorhandensein. Für einen Arbeitgeber in Deutschland ist die konkrete Gefahr keine Sammelklage vor Gericht, sondern die Prüfung durch eine Datenschutzaufsichtsbehörde, eine DSGVO-Beschwerde oder ein Diskriminierungsvorwurf nach dem AGG – und die Aufsicht über den EU AI Act sucht genau nach diesem Muster, wie es auch Verfahren wie die Haftungsklage gegen das Workday-ATS illustrieren. Kalibrierter Widerspruch in Ihren Aufzeichnungen ist keine Reibung. Er ist der Beleg dafür, dass ein Mensch tatsächlich eingebunden war.

Was Sie Ihren ATS-Anbieter fragen sollten

Bevor Sie einem KI-Recruiting-Tool vertrauen, stellen Sie ihm vier Fragen. Sie entsprechen eins zu eins den Befunden der Studie.

1. Kann es „Ich weiß es nicht“ sagen? Hat es einen ausdrücklichen Zustand „unzureichende Belege“, oder zwingt es jeden Kandidaten in eine selbstsichere Bewertung?
2. Zeigt es Belege oder ein Urteil? Sehen Sie die konkreten Signale hinter einer Empfehlung, oder nur eine Zahl?
3. Erzwingt es eine menschliche Entscheidung? Sind Phasenübergänge eine bejahende menschliche Entscheidung mit Begründung, oder ein Ranking-per-Klick-Übernehmen?
4. Prüft es Abweichungen? Kann es Ihnen zeigen, wo Menschen und KI uneins sind, und Prüfer markieren, die es nie sind?

Wenn die ehrlichen Antworten Nein, Nein, Nein und Nein lauten, kaufen Sie kein Recruiting-Tool. Sie kaufen eine Selbstsicherheitsmaschine, und die Forschung ist eindeutig, was solche Maschinen bewirken: Sie machen Sie sicherer und seltener richtig.

Der Kernbefund verdient es, wiederholt zu werden, weil er so kontraintuitiv ist. KI zu einer Entscheidung hinzuzufügen ließ Menschen sich dramatisch selbstsicherer fühlen und machte sie zugleich dramatisch ungenauer – selbst wenn die KI falschlag und selbst wenn Richtigliegen sich auszahlte. Recruiting ist eine lange Kette genau solcher Entscheidungen. Die Teams, die mit KI gewinnen, werden jene sein, die dieser Selbstsicherheit mit Misstrauen begegnen und einen Prozess bauen, der einen Menschen wirklich und nachvollziehbar eingebunden hält. Wenn Sie Recruiting so gestalten möchten, probieren Sie Kit aus.