Kaum ein Bereich verbindet so viel Effizienzgewinn mit so viel Rechtsrisiko wie KI im Recruiting. Der AI Act, die DSGVO und das AGG greifen hier gleichzeitig.
Welche HR-Anwendungen betroffen sind
- Automatisierte Vorauswahl und Ranking von Bewerbungen
- CV-Parsing mit Score-Bildung
- Matching-Algorithmen in Bewerbermanagementsystemen
- Leistungs- und Potenzialbewertung von Beschäftigten
- Entscheidungen über Beförderung, Aufgabenverteilung, Beendigung
Was verboten ist
Emotionserkennung am Arbeitsplatz – etwa Stimmungsanalyse in Videointerviews oder Stressmessung im Service – fällt unter die verbotenen Praktiken des Artikel 5. Auch biometrische Kategorisierung nach sensiblen Merkmalen ist untersagt.
Pflichten für Betreiber von HR-Hochrisiko-KI
Unternehmen, die eine solche Lösung einkaufen, sind Betreiber – mit eigenen Pflichten.
- Nutzung gemäß Gebrauchsanweisung des Anbieters
- Sicherstellung qualifizierter menschlicher Aufsicht
- Repräsentative Eingabedaten im Verantwortungsbereich
- Aufbewahrung automatisch erzeugter Logs
- Information betroffener Beschäftigter und ihrer Vertretung vor Inbetriebnahme
- Grundrechte-Folgenabschätzung in bestimmten Konstellationen
Bias und AGG-Risiko beherrschen
Diskriminierungsrisiken entstehen selten absichtlich, sondern über Proxys: Postleitzahl, Lücken im Lebenslauf, Sprachmuster. Ein regelmäßiger Fairness-Test über Gruppen hinweg, dokumentierte Auswahlkriterien und eine echte menschliche Letztentscheidung sind der wirksamste Schutz – auch gegen Entschädigungsansprüche nach dem AGG.
Praxisleitfaden für HR-Teams
- Anbieter zu Konformität, Trainingsdaten und Logging schriftlich befragen
- Menschliche Prüfung jeder Ablehnung im Prozess verankern
- Bewerbende transparent informieren
- Betriebsrat frühzeitig einbinden
- HR-Team gezielt nach Artikel 4 schulen
Häufige Fragen zu diesem Thema
Dürfen wir KI im Recruiting überhaupt noch einsetzen?
Ja – unter Auflagen. Verboten sind nur bestimmte Praktiken; alles andere ist zulässig, wenn Transparenz, menschliche Aufsicht und Dokumentation stimmen.
Reicht es, wenn der Softwareanbieter konform ist?
Nein. Betreiberpflichten lassen sich nicht auslagern. Sie bleiben für Nutzung, Aufsicht und Information verantwortlich.
Was ist mit KI-gestützter Formulierung von Stellenanzeigen?
Das ist in der Regel kein Hochrisiko-Anwendungsfall – Sorgfalt bei diskriminierungsfreier Sprache und die Prüfpflicht bleiben aber bestehen.