EU AI Act: Ihre Recruiting-Software ist jetzt ein Hochrisiko-System

Ja, KI, die Bewerber screent, rankt oder bewertet, gilt unter dem EU AI Act als „Hochrisiko-System“. Anhang III, Ziffer 4 (a) nennt Systeme zur Personalbeschaffung und -auswahl ausdrücklich, und das löst einen ganzen Stapel rechtlicher Pflichten aus: menschliche Aufsicht, auf Verzerrungen geprüfte Daten, Transparenz gegenüber Bewerbern, automatische Protokollierung und eine Aufbewahrungsfrist von mindestens sechs Monaten. Hochrisiko bedeutet nicht verboten. Es bedeutet erlaubt, aber streng reguliert – und wenn Sie EU-Bewerber einstellen, sitzen überwiegend Sie selbst in der Haftung. Verstöße können bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes kosten, je nachdem, welcher Betrag höher ist.

Dieser Leitfaden räumt mit dem Lärm um Fristen und Bußgelder auf – beide werden weithin falsch wiedergegeben. Er erklärt, was das Gesetz tatsächlich verlangt, wer die Haftung trägt, wann die echte Frist gilt, nachdem die EU sie verschoben hat, und wie eine belastbare Recruiting-Infrastruktur in der Praxis aussieht.

Dieser Artikel liefert allgemeine Informationen, keine Rechtsberatung. Sprechen Sie zu Ihrer konkreten Situation mit einer arbeitsrechtlichen Beratung und Ihrem Datenschutzbeauftragten.

Ihre Recruiting-KI ist jetzt „hochriskant“. Was das wirklich heißt

Unter dem EU AI Act gilt ein KI-System, das „für die Einstellung oder Auswahl natürlicher Personen“ eingesetzt wird, als Hochrisiko-System. Dazu zählen Tools, die zielgerichtete Stellenanzeigen ausspielen, Bewerbungen analysieren und filtern sowie Kandidaten bewerten oder ranken. Dieselbe Kategorie in Anhang III (Ziffer 4 (b)) erfasst KI, die nach der Einstellung für Beförderung, Kündigung, Aufgabenverteilung und Leistungsüberwachung genutzt wird.

Das größte Missverständnis lautet, hochriskant heiße verboten. Tut es nicht. Der AI Act kennt drei Stufen: eine kleine Gruppe verbotener Praktiken, ein breiteres Band hochriskanter Systeme und alles Übrige. Recruiting-KI liegt im Hochrisiko-Band. Das heißt: Der Einsatz ist legal, aber nur, wenn das System einen ganzen Anforderungskatalog erfüllt und Sie als Arbeitgeber die Pflichten auf der Anwenderseite übernehmen.

Nur eine eng begrenzte Gruppe recruiting-naher Praktiken ist rundheraus verboten – und das schon seit dem 2. Februar 2025. Am relevantesten für HR ist die Emotionserkennung am Arbeitsplatz, die der AI Act bis auf eng gefasste medizinische oder sicherheitsbezogene Ausnahmen untersagt. Wenn ein Anbieter Ihnen ein Interview-Tool verkauft, das aus Gesicht oder Stimme eines Bewerbers auf dessen Gefühlslage schließt, ist das kein Hochrisiko-System, das Sie mit Kontrollen in den Griff bekommen. Es ist eine verbotene Praktik, Punkt.

Die praktische Frage lautet also nicht „Darf ich KI im Recruiting einsetzen?“ Sie lautet „Kann ich nachweisen, dass mein KI-Einsatz die Hochrisiko-Anforderungen erfüllt?“

Wann gilt das? Die Frist im August 2026, die verschoben wurde

Die ursprüngliche Frist für die Hochrisiko-Pflichten bei eigenständigen Anhang-III-Systemen – Recruiting eingeschlossen – war der 2. August 2026. Dieses Datum ist inzwischen falsch, und die meisten Artikel, die es zitieren, haben den Anschluss verpasst.

Am 19. November 2025 veröffentlichte die Europäische Kommission den „Digital Omnibus on AI“, der vorschlägt, die Hochrisiko-Frist für Anhang-III-Systeme vom 2. August 2026 auf den 2. Dezember 2027 zu verschieben. Die Ausschüsse IMCO und LIBE des Europäischen Parlaments unterstützten die Verschiebung im März 2026, und Parlament und Rat erzielten im Mai 2026 eine vorläufige politische Einigung über das Paket.

Stand Mitte 2026 ist der Aufschub vorläufig. Im Grundsatz vereinbart, aber noch nicht förmlich beschlossen und im Amtsblatt veröffentlicht – mit einer Verabschiedung, die noch vor dem ursprünglichen August-Termin 2026 erwartet wird. Die ehrliche Antwort auf „Wann gilt das?“ hat also drei Teile:

• 2. Februar 2025: Verbotene Praktiken (einschließlich Emotionserkennung am Arbeitsplatz) sind bereits in Kraft. Das ist keine Zukunftsmusik. Das ist Vergangenheit.
• Weitgehend nach dem ursprünglichen Zeitplan: Die Pflicht zur KI-Kompetenz (Artikel 4) und bestimmte Transparenzpflichten (Artikel 50) sind nicht Teil des Hochrisiko-Aufschubs.
• 2. Dezember 2027 (vorbehaltlich endgültiger Verabschiedung): der volle Pflichtenstapel für Recruiting-Systeme – der Teil, den alle „die Frist“ nennen.

Behandeln Sie die zusätzliche Zeit als Geschenk, um es richtig aufzubauen, nicht als Vorwand, es zu ignorieren. Die EU hat ihre eigene Vorzeigefrist auch deshalb verschoben, weil die technischen Standards noch nicht fertig waren – das zeigt, wie viel es in Ordnung zu bringen gibt. Teams, die bis Ende 2027 warten, werden Aufsicht und Protokollierung nachträglich auf Tools aufpfropfen, die nie dafür gebaut wurden.

Sind Sie Anbieter oder Betreiber?

Der EU AI Act teilt die Verantwortung auf zwei Rollen auf, und als Erstes sollten Sie klären, welche davon Sie sind. Wenn Sie einstellen, sind Sie mit ziemlicher Sicherheit der Betreiber (Deployer).

Der Anbieter (Provider) ist die Stelle, die das KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt. Im Recruiting ist das Ihr ATS-Anbieter oder der Hersteller Ihres KI-Screening-Tools. Anbieter tragen die schwere Compliance-Last: Konformitätsbewertung, CE-Kennzeichnung, technische Dokumentation und Registrierung in der EU-Datenbank.

Der Betreiber ist die Stelle, die das System unter eigener Verantwortung im Rahmen ihrer beruflichen Tätigkeit nutzt. Das sind Sie, der Arbeitgeber. Ihre Pflichten sind andere, aber sehr real – und sie stehen in Artikel 26.

Eine Falle ist es wert, beim Namen genannt zu werden: Ein Betreiber kann zum Anbieter werden und damit die volle Anbieterlast erben, wenn er ein Hochrisiko-System wesentlich verändert oder für einen Zweck nutzt, den der Anbieter nicht vorgesehen hat. Trainieren Sie ein Screening-Modell auf Ihren eigenen Daten nach, oder verdrahten Sie eine universell einsetzbare KI in einen Auto-Reject-Workflow, für den sie nie verkauft wurde, dann haben Sie sich womöglich selbst in die Rolle mit den größeren Pflichten befördert. Kaufen Sie Tools, die für die Aufgabe gebaut sind, statt sich eines zusammenzubasteln.

Die Pflichten, die jedes Recruiting-Team mit EU-Bezug erfüllen muss

Artikel 26 und die umliegenden Anforderungen lassen sich in eine konkrete Checkliste übersetzen. Betrachten Sie diese als Produktanforderungen, an denen Sie einen Anbieter messen können, nicht als abstrakte Rechtsprinzipien.

Menschliche Aufsicht: keine vollautomatischen Absagen

Artikel 14 verlangt, dass Hochrisiko-Systeme so gestaltet sind, dass Menschen sie wirksam beaufsichtigen können, und Artikel 26 (2) verlangt von Betreibern, die Aufsicht natürlichen Personen zu übertragen, die kompetent, geschult und befugt sind, sie auszuüben. Auf das Recruiting übertragen: Ein Mensch muss die Ausgabe der KI verstehen, richtig deuten, sich gegen ihre Nutzung entscheiden und sie übersteuern können.

Das Muster, auf das das zielt, ist die Auto-Reject-Pipeline, die Lebensläufe aussortiert, bevor ein Mensch sie zu Gesicht bekommt. Wenn Ihr Tool Kandidaten aussiebt und niemand mit Befugnis diese Entscheidungen prüft oder rückgängig machen kann, haben Sie keine menschliche Aufsicht. Sie haben eine Blackbox mit Gummistempel.

Bias-Prüfung und Data Governance

Artikel 10 verlangt, dass Trainings-, Validierungs- und Testdaten relevant und repräsentativ sind und auf Verzerrungen untersucht werden. Für das Recruiting liegt hier der Kern des Diskriminierungsrisikos. Ein Modell, das auf einem Jahrzehnt historisch verzerrter Einstellungsdaten trainiert wurde, reproduziert diese Verzerrung in großem Maßstab. Sie sollten einen Anbieter fragen können, wie sein System auf disparate Auswirkungen (disparate impact) geprüft wurde – und eine echte Antwort bekommen.

Automatische Protokollierung

Artikel 12 verlangt, dass Hochrisiko-Systeme die automatische Aufzeichnung von Ereignissen (Logs) über die Lebensdauer des Systems technisch ermöglichen, hinreichend, um Risikosituationen zu erkennen und die Beobachtung nach dem Inverkehrbringen zu stützen. Das ist eine Gestaltungsanforderung an das System selbst. Kann ein Tool keinen Nachweis darüber erzeugen, was es getan hat und warum, erfüllt es Artikel 12 nicht.

Aufbewahrung der Protokolle für sechs Monate

Artikel 26 (6) legt die Aufbewahrungspflicht auf Ihre Schultern: Betreiber müssen die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren, sofern nicht anderes Recht (etwa die DSGVO) eine längere Frist verlangt. Sechs Monate sind die Untergrenze, nicht die Obergrenze. Der praktische Test: Können Sie ein halbes Jahr nach einer Einstellungsentscheidung den Nachweis dafür hervorholen, wie sie zustande kam?

Transparenz gegenüber Bewerbern und Beschäftigten

Es gelten zwei Pflichten. Artikel 26 (7) verlangt von Arbeitgebern, die Arbeitnehmervertretung und die betroffenen Beschäftigten vor dem Einsatz eines Hochrisiko-Systems am Arbeitsplatz zu informieren. Artikel 26 (11) verlangt, die Personen zu informieren, über die das System Entscheidungen trifft. Artikel 50 ergänzt allgemeinere Transparenzpflichten zur Interaktion mit KI. Kurz: Bewerber und Beschäftigte haben ein Recht zu erfahren, dass KI im Spiel ist.

Recht auf Erläuterung für abgelehnte Bewerber

Das ist die Pflicht, die viele überrascht. Artikel 86 gibt jeder betroffenen Person, über die auf Basis der Ausgabe eines Hochrisiko-Systems entschieden wird und bei der diese Entscheidung rechtliche oder ähnlich erhebliche Auswirkungen hat, das Recht auf „klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wesentlichen Elementen der getroffenen Entscheidung“. Ein abgelehnter Bewerber kann fragen, wie die KI in seine Ablehnung eingeflossen ist – und Sie müssen das beantworten können. „Der Algorithmus hat Nein gesagt“ ist keine Antwort.

DSFA und die Überschneidung mit der DSGVO

Der AI Act ersetzt die DSGVO nicht. Er kommt obendrauf. Automatisierte Entscheidungen mit erheblichen Auswirkungen berühren ohnehin schon Artikel 22 DSGVO, und eine Hochrisiko-Verarbeitung erfordert in der Regel eine Datenschutz-Folgenabschätzung (DSFA). Wenn Sie bereits DSFAs für Bewerberdaten durchführen, dehnen Sie sie auf das KI-System aus. Wenn nicht, besteht diese Lücke schon vor dem AI Act – und sie zu schließen lohnt sich jetzt.

Was die Bußgelder wirklich sind – und der 35-Mio-Euro-Recruiting-Mythos

Der häufigste Fehler in der Berichterstattung über den AI Act ist die Bußgeldhöhe. Sie werden „bis zu 35 Millionen Euro oder 7 % des Umsatzes“ mit dem Recruiting in Verbindung gebracht sehen. Für gewöhnliche Hochrisiko-Verstöße im Recruiting ist das falsch.

Artikel 99 sieht gestaffelte Sanktionen vor:

In jedem Fall greift die Behörde auf den höheren Betrag zu. Die Stufe von 35 Mio. EUR / 7 % ist den verbotenen Praktiken vorbehalten, nicht dem Versäumnis, Ihre Protokolle zu führen oder eine Bewerberbenachrichtigung auszulassen. Das relevante Risiko bei nicht konformem Hochrisiko-Recruiting liegt bei 15 Millionen Euro oder 3 %.

Für kleinere Unternehmen ist eine Erleichterung eingebaut. Artikel 99 deckelt KMU und Start-ups beim niedrigeren der beiden Werte – Prozentsatz oder Festbetrag – statt beim höheren. Das Risiko ist real, aber es skaliert mit Ihrer Größe und löscht nicht ein Unternehmen in der Seed-Phase wegen eines Formfehlers aus.

Das Altlasten-ATS-Problem: Auto-Screener, die ablehnen, bevor ein Mensch hinschaut

Das Paradebeispiel für „hochriskant ohne die Kontrollen“ ist das Altlasten-ATS, das anhand von Keyword-Treffern oder K.-o.-Fragen automatisch ablehnt, bevor ein Mensch den Bewerber sieht. Es vereint drei Dinge, auf die der AI Act zugleich abzielt: eine automatisierte Entscheidung, keine menschliche Aufsicht und keine Erläuterung.

Das ist nicht hypothetisch. Dasselbe Designmuster steht im Zentrum von US-Rechtsstreitigkeiten. Im Fall Mobley v. Workday ließ ein Bundesgericht Diskriminierungsklagen gegen einen KI-Recruiting-Anbieter als „Agent“ der ihn nutzenden Arbeitgeber zu – wegen genau dieser Art automatisierten Screenings. Der EU AI Act und US-Gerichte laufen aus verschiedenen Richtungen auf denselben Schluss zu: Das Risiko ist die undurchsichtige, menschenfreie automatische Ablehnung, nicht KI im Recruiting als solche. (Die US-Seite haben wir behandelt in was die Workday-KI-Recruiting-Klage für jedes ATS bedeutet.)

Wenn Ihr aktuelles Tool Ihnen nicht sagen kann, welche Kandidaten es automatisch abgelehnt hat, warum, und wer das hätte übersteuern können, dann fahren Sie genau das Tatmuster, nach dem sowohl die EU-Aufsicht als auch die US-Klägeranwälte Ausschau halten.

EU AI Act vs. NYC Local Law 144

US-Teams fragen oft, wie sich das mit der Regel vergleicht, die sie bereits kennen. Das Local Law 144 von New York City verlangt seit 2023 jährliche unabhängige Bias-Audits automatisierter Tools für Beschäftigungsentscheidungen sowie eine Bewerberbenachrichtigung. Ein nützlicher Bezugspunkt – aber das EU-Regime ist weit umfassender.

Das Local Law 144 ist ein Bias-Audit-Gesetz. Der EU AI Act ist ein Governance-Regime über den gesamten Lebenszyklus mit Strafen, die zwei Größenordnungen höher liegen. Wenn Sie Ihren Prozess rund um das Local Law 144 aufgebaut haben, betrachten Sie es als Ausgangspunkt, nicht als Ziellinie.

Ihre Compliance-Checkliste zum EU AI Act im Recruiting

Hier ist, was ein Recruiting-Team mit EU-Bezug können und nachweisen sollte. Kopieren Sie es, geben Sie es Ihrem Anbieter und haken Sie ab, was Ihr aktueller Stack bereits abdeckt.

1. Klären Sie Ihre Rolle. Sie sind mit ziemlicher Sicherheit der Betreiber. Werden Sie nicht versehentlich zum Anbieter, indem Sie ein Tool stark verändern oder außerhalb seines vorgesehenen Zwecks nutzen.
2. Kartieren Sie Ihre KI. Listen Sie jedes Tool auf, das Bewerber screent, rankt, bewertet oder beurteilt. Jedes davon gilt vermutungsweise als hochriskant.
3. Schaffen Sie vollautomatische Absagen ab. Stellen Sie sicher, dass ein kompetenter, geschulter und befugter Mensch jede Entscheidung über Ablehnung oder Weiterführen prüft und übersteuern kann (Art. 14, 26 (2)).
4. Prüfen Sie die Bias-Tests. Fragen Sie jeden Anbieter, wie sein System auf disparate Auswirkungen geprüft wurde, und lassen Sie es sich schriftlich geben (Art. 10).
5. Bestätigen Sie die Ereignisprotokollierung. Das System muss pro Entscheidung automatisch aufzeichnen, was es getan hat (Art. 12).
6. Bewahren Sie Protokolle mindestens sechs Monate auf. Länger, wenn die DSGVO oder anderes Recht es verlangt (Art. 26 (6)).
7. Informieren Sie Beschäftigte und Bewerber. Informieren Sie die Arbeitnehmervertretung vor dem Einsatz und die Personen, über die entschieden wird (Art. 26 (7), (11), Art. 50).
8. Seien Sie erläuterungsbereit. Für jeden abgelehnten Bewerber müssen Sie eine klare, aussagekräftige Darstellung dazu liefern können, wie die KI eingeflossen ist (Art. 86).
9. Führen Sie eine DSFA durch. Beziehen Sie das KI-System in Ihre Datenschutz-Folgenabschätzung und Ihre Analyse nach Artikel 22 DSGVO ein.
10. Tragen Sie den Termin ein. Planen Sie damit, dass die Hochrisiko-Pflichten am 2. Dezember 2027 greifen (vorbehaltlich endgültiger Verabschiedung), während die Verbote bestimmter Praktiken bereits seit Februar 2025 in Kraft sind.

Wie konforme Recruiting-Infrastruktur aussieht – am durchgespielten Beispiel Kit

Der sauberste Weg, diese Pflichten zu erfüllen, ist ein Recruiting-System, in dem sie als Nebenprodukt der normalen Nutzung entstehen, statt als Funktionen, die man nachrüstet. Die richtige Haltung ist schnell gesagt: KI assistiert, Menschen entscheiden, und das System dokumentiert. Kit ist genau um diese Arbeitsteilung herum gebaut.

Menschliche Aufsicht ist strukturell, nicht optional. Jede statusverändernde Aktion an einer Bewerbung verlangt einen menschlichen Akteur. Ablehnen, Weiterführen, eine Bewertung entscheiden und ein Angebot unterbreiten werden alle einer Person zugeordnet. Selbst Kits KI-Tools können einen Kandidaten nicht im Alleingang ausschließen; der KI-Ablehnpfad verlangt einen eingeloggten Nutzer, eine Berechtigungsprüfung und eine ausdrückliche Bestätigung. Es gibt keinen Codepfad, in dem KI stillschweigend einen Kandidaten ablehnt – und genau das ist der Unterschied, auf den die Artikel 14 und 26 (2) abzielen.

Der Prüfpfad ist automatisch. Kit modelliert die Pipeline als zugeordnete Datensätze zum Phasenfortschritt, jeweils gekoppelt an eine Entscheidung, die eine schriftliche Begründung verlangt und festhält, wer sie getroffen hat. Die Kandidaten-Timeline stellt das als menschenlesbare Ereignishistorie dar. Das ist die „automatische Aufzeichnung von Ereignissen über die Lebensdauer“ aus Artikel 12 – als Nebeneffekt des Recruitings erzeugt, nicht als separates Protokollierungsprojekt.

Aufbewahrung ist Standard, keine Pflichtübung. Weil Entscheidungen und Phasenhistorie erstklassige Datenbankeinträge sind und nicht flüchtige Logs, die irgendwann wegrollen, bestehen sie weit über die Sechs-Monats-Untergrenze aus Artikel 26 (6) hinaus. Die Last kehrt sich um: von „Wie bewahre ich Logs sechs Monate auf?“ zu „Ich habe die vollständige, abfragbare Historie ohnehin schon.“

Herkunft und Erläuterung sind eingebaut. Kit kennzeichnet, ob ein Signal von einer KI oder einem Menschen stammt, sodass das System weiß und offenlegen kann, welche Eingaben KI-generiert waren – das stützt die Transparenzpflichten aus den Artikeln 26 (11) und 50. Und weil jede Entscheidung einen zugeordneten Akteur samt Begründung trägt und Bewertungen mit Punkten gegen benannte Kriterien hinterlegt sind, kann Kit die „klare und aussagekräftige Erläuterung“ liefern, die Artikel 86 abgelehnten Bewerbern zugesteht.

Zur Klarstellung des Geltungsbereichs: Kit zu nutzen macht Sie nicht automatisch konform. Sie verantworten weiterhin Ihre DSFA, Ihre Mitarbeiterinformationen und die Kompetenz der Menschen, die die Aufsicht ausüben. Was Kit leistet, ist, die schwierigen, leicht zu überspringenden Teile standardmäßig zu aktivieren, sodass die Nachweise und Kontrollen, die der AI Act erwartet, bereits vorliegen, wenn eine Aufsichtsbehörde, ein Bewerber oder Ihr Aufsichtsrat danach fragt.

Der EU AI Act hat KI-Recruiting nicht illegal gemacht. Er hat undokumentiertes, menschenfreies KI-Recruiting zum Haftungsrisiko gemacht. Vorn liegen am Ende nicht die Teams, die KI aus dem Recruiting reißen. Es sind die, die ihre Arbeit belegen können: wer entschieden hat, auf welcher Grundlage, mit welchem Nachweis. Bauen Sie das jetzt auf, solange die Frist Ihnen Spielraum gibt, statt es Ende 2027 unter Druck nachzurüsten.

Möchten Sie sehen, wie eine belastbare Recruiting-Pipeline mit Mensch in der Schleife aussieht? Testen Sie Kit kostenlos oder lesen Sie, was ein KI-natives ATS wirklich ist.