-
EU AI Act im Recruiting: Was du jetzt wissen musst
-
EU AI Act im Recruiting: Was du jetzt wissen musst
Der EU AI Act stuft KI im Recruiting als Hochrisiko ein: Wir erklären, welche Pflichten auf dich zukommen und wie du dich jetzt richtig aufstellst.
KI im Recruiting ist längst Realität. Und mit dem EU AI Act gibt es nun einen gesetzlichen Rahmen, der genau dort ansetzt: Er regelt, wie KI eingesetzt werden darf, welche Pflichten Anbieter und Betreiber haben und was das für Bewerber:innen bedeutet. Wer die Anforderungen versteht, erkennt darin keine Bremse, sondern einen Kompass für fairen, transparenten KI-Einsatz im Personalwesen.
Was ist der EU AI Act überhaupt?
Der EU AI Act ist eine Verordnung der Europäischen Union und hat damit unmittelbaren Gesetzesrang. Das bedeutet: Er gilt direkt, ohne dass nationale Gesetze ihn erst in nationales Recht umsetzen müssen. Das Ziel dahinter ist klar. KI soll in einem sicheren, transparenten Rahmen eingesetzt werden. Je größer das Risiko einer KI-Anwendung für Grundrechte und persönliche Lebensverhältnisse von Menschen ist, desto strenger sind die Regeln.
Rechtsanwältin Nina Dierks, die sich seit 15 Jahren mit Datenschutz, IT-Recht und Arbeitsrecht beschäftigt, bringt es auf den Punkt:
„Die KI-Verordnung reguliert risikoabhängig. Je risikobehafteter die KI ist, desto mehr Regularien und engere Grenzen gibt es für den Einsatz.“
Der AI Act unterscheidet dabei vier Ebenen:
- Verbotene Systeme: Manipulative Technologien, Emotionserkennung am Arbeitsplatz oder Social Scoring sind komplett untersagt.
- Hochrisikosysteme: KI im Personalwesen, Recruiting und der Personalauswahl fallen in diese Kategorie. Hier gelten die strengsten Anforderungen.
- Systeme mit begrenztem Risiko: Chatbots oder Texthilfen unterliegen Transparenzpflichten, aber weniger Auflagen.
- Minimales Risiko: Der Großteil anderer KI-Anwendungen bleibt weitgehend unreguliert.
Warum gilt KI im Recruiting als Hochrisiko?
KI-Systeme, die für Recruiting oder Personalauswahl eingesetzt werden, stehen explizit im sogenannten Annex III des AI Act . Das umfasst alles: von der gezielten Ausspielung von Stellenanzeigen über die Analyse von Bewerbungsunterlagen bis hin zur Bewertung von Kandidat:innen. Warum diese Einstufung? Weil KI-Entscheidungen im Recruiting unmittelbare Auswirkungen auf die persönlichen Lebensverhältnisse und Grundrechte einzelner Menschen haben können.
Dazu kommt ein Aspekt, den Nina Dierks im Interview besonders hervorhebt: Die technischen Grundlagen heutiger KI. Aktuelle Large Language Models sind Wahrscheinlichkeitsmaschinen. Sie analysieren, was als nächstes am wahrscheinlichsten kommt, ohne echtes Verständnis und ohne echtes Reasoning. Das hat direkte Konsequenzen für zwei zentrale Qualitätskriterien. Erstens die Validität, also die Frage, ob die Ergebnisse tatsächlich das messen, was sie messen sollen. Zweitens die Reliabilität, also ob das System bei gleicher Eingabe auch zuverlässig das gleiche Ergebnis liefert. Für den Recruiting-Kontext bedeutet das: Wer KI zur Vorauswahl von Bewerber:innen einsetzt, muss sich dieser Grenzen bewusst sein.
Der Workday-Fall ist hier das bekannteste Warnsignal. Das Unternehmen setzte ein KI-basiertes Auswahlsystem ein, das im Verborgenen Bewerbungen nach Kriterien wie Alter oder Hautfarbe gefiltert hat. Zahlreiche qualifizierte Kandidat:innen bekamen ihre Unterlagen nie zu Gesicht. Das ist nicht nur rechtlich ein Problem. Es ist auch geschäftlich ein Desaster: Die besten Talente gehen verloren, weil ein Algorithmus einen Bias entwickelt hat, den niemand rechtzeitig erkannt hat.
Ab wann gilt der AI Act konkret für Hochrisikosysteme?
Das ist die Frage, die gerade viele Unternehmen beschäftigt. Ursprünglich sollten die Regelungen für Hochrisikosysteme im August 2026 in Kraft treten. Da d.vinci selbst ein solches Hochrisikosystem betreibt, haben wir uns darauf vorbereitet. Aktuell deutet viel darauf hin, dass dieser Zeitpunkt auf August 2027 verschoben wird, da die EU noch mehrere Gesetze im Gesetzgebungsprozess überarbeitet. Endgültig bestätigt ist das noch nicht.
Was bedeutet das für dich? Nutze die Zeit. Wer jetzt wartet, bis alle Fristen final festgezurrt sind, und dann erst anfängt, wird es schwer haben. Das hat sich bei der DSGVO gezeigt. Auch damals gab es einen Übergangszeitraum von zwei Jahren und trotzdem war am Ende vieles nicht vorbereitet.
Was müssen Recruiter:innen und Unternehmen jetzt konkret tun?
Nina Dierks empfiehlt einen klaren Dreischritt. Erstens kritisch prüfen, ob der Einsatz von KI überhaupt eine echte Kosten-Nutzen-Relevanz hat. Nicht jeder Prozess wird durch KI besser. Wenn ein Prozess bereits schlecht läuft, wird er durch KI in der Regel nicht auf magische Weise gut. Zweitens, wenn die Entscheidung für KI fällt, den Anbieter genau unter die Lupe nehmen. Kann er sofort eine vollständige Dokumentation, klare Vertragsgrundlagen und Transparenz über seinen Algorithmus vorlegen? Wenn nicht, ist das ein deutliches Warnsignal. Drittens intern sicherstellen, dass menschliche Kontrolle nicht nur am Ende des Prozesses stattfindet, sondern an jedem einzelnen Schritt.
Das ist kein Bürokratieprojekt. Es ist eine Haltungsfrage.
Für Unternehmen, die KI im Recruiting einsetzen oder planen, bedeutet das konkret:
- Transparenz gegenüber Bewerber:innen: Wer mit KI unterstützt ausgewählt oder aussortiert werden kann, muss das wissen. Das schreibt sowohl die DSGVO als auch der AI Act vor.
- Dokumentation: Welche KI-Systeme werden eingesetzt? Nach welchen Kriterien arbeiten sie? Diese Informationen müssen jederzeit abrufbar sein.
- KI-Folgenabschätzung: Zusätzlich zur bekannten Datenschutzfolgenabschätzung schreibt der AI Act für Hochrisikosysteme eine eigene KI-Folgenabschätzung vor.
- Human in the Loop: Kein KI-System darf allein über eine Bewerbung entscheiden. Ein Mensch muss an jedem relevanten Schritt eingebunden sein, nicht nur am Ende.
- Mitarbeitende schulen: Artikel 4 des AI Act verpflichtet alle, die KI einsetzen, zum KI-kompetenten Umgang damit. Das gilt unabhängig davon, ob ein Hochrisikosystem vorliegt oder nicht.
Was bedeutet „Human in the Loop“ wirklich?
Das ist eine Frage, die im Interview besonders präzise diskutiert wird. Human in the Loop bedeutet nicht, dass am Ende des Bewerbungsprozesses eine Personerin auf einen Knopf drückt und den KI-Vorschlag bestätigt. Es bedeutet zweierlei.
Auf der Systemebene braucht es Menschen, die kontinuierlich auf das KI-System schauen, Bias erkennen, eingreifen können und im Zweifel das System abschalten. Auf der Prozessebene muss bei jeder KI-gestützten Entscheidung, die Auswirkungen auf einzelne Bewerber:innen hat, ein Mensch aktiv involviert sein, bevor die Entscheidung getroffen wird. Beides zusammen bildet echte menschliche Kontrolle.
„Wer nur ganz am Ende draufguckt, hat das Problem, dass eine fehlerhafte Entscheidung im automatisierten Prozess bereits getroffen worden sein kann, ohne dass ein Mensch es bemerkt hat“, erklärt Nina Dierks.
Das ist der entscheidende Unterschied zwischen echter Aufsicht und Absicherung auf dem Papier.
Wie geht d.vinci mit dem AI Act um?
d.vinci gilt selbst als Betreiber eines Hochrisikosystems. Und das ist keine überraschende Neuigkeit, sondern seit mehr als anderthalb Jahren Bestandteil der internen Strategie. Matthias Blenski, Syndikusanwalt, Datenschutz-Auditor und KI-Verantwortlicher bei d.vinci, bringt die Haltung dahinter auf den Punkt: „Der AI Act ist für uns kein Schreckgespenst, sondern Ausdruck unserer eigenen Haltung und unseres Mindsets.„
Das spiegelt sich in konkreten Maßnahmen wider. Für alle KI-Funktionen ohne personenbezogene Daten, wie den intelligenten Texteditor, die Smart-Fill-Funktion im Multiposting oder den KI-gestützten Karriereseiten-Wizard, hat d.vinci frühzeitig mit der Entwicklung und Dokumentation begonnen. Für das Pre-Screening, also die KI-gestützte Vorauswahl von Bewerbungen, läuft aktuell eine Pilotphase mit ausgewählten Kunden. Dabei wird bewusst mit Datenschützer:innen zusammengearbeitet, um gemeinsam rechtssichere Lösungen zu entwickeln.
Ein Kernprinzip dabei: Alle Merkmale, die Bias verursachen könnten, wie Alter, Geschlecht oder Schwerbehinderung, werden aus den Daten herausgefiltert, bevor sie in die KI-Bewertung fließen. So wird verhindert, dass das System überhaupt in die Versuchung gerät, auf Basis dieser Kriterien zu filtern. Das Pre-Screening wird erst dann für alle Kund:innen ausgerollt, wenn eine zuverlässige Bias-Kontrolle und belastbare Testverfahren vorliegen.
Darüber hinaus stellt d.vinci seinen Kund:innen eine vollständige Software-Dokumentation bereit, unterstützt bei der Datenschutzfolgenabschätzung und liefert die nötigen Grundlagen für die KI-Folgenabschätzung. Wer als Betreiber:in eines KI-Systems nach dem AI Act nachweisen muss, wie das System funktioniert und welche Maßnahmen gegen Bias getroffen wurden, findet diese Informationen nicht erst auf Anfrage, sondern kann sie direkt abrufen.
„Wer jetzt schon transparent ist und mit menschlicher Kontrolle arbeitet, ist auf einem guten Weg.“ – Matthias Blenski, d.vinci
Das ist der Satz, der die d.vinci-Haltung zum AI Act am besten zusammenfasst. Keine Panik, keine Vogel-Strauß-Taktik. Dafür klare Verantwortung, klare Dokumentation und ein menschenzentriertes Verständnis von KI.
Fazit: Der AI Act als Kompass, nicht als Bremse
Der EU AI Act ist kein europäischer Sonderweg, der die Wettbewerbsfähigkeit gefährdet. Er ist ein Regulierungsrahmen, den andere Demokratien weltweit bereits aufgreifen, ähnlich wie es mit der DSGVO geschehen ist.
Für dich als Recruiter:in bedeutet das: Der AI Act gibt dir Sicherheit. Er stellt sicher, dass die KI-Tools, die du einsetzt oder zukünftig einsetzen wirst, bestimmte Mindeststandards erfüllen müssen. Und er schützt gleichzeitig die Bewerber:innen, die sich auf faire und transparente Prozesse verlassen.
Wenn du Fragen dazu hast, wie d.vinci den AI Act umsetzt, welche Dokumentation wir bereitstellen oder wie du dein Unternehmen auf die neuen Anforderungen vorbereitest, dann sprich uns gerne an. Wir sind nicht erst seit dem AI Act dabei. Wir haben früh begonnen und teilen dieses Wissen gern mit dir.
Zum Interview
Du möchtest noch tiefer ins Thema einsteigen? Schau dir das gesamte Interview von Nina Dierks und Matthias Blenski an und erfahre, wie d.vinci den AI Act in der Praxis umsetzt.
