Mit dem Inkrafttreten des EU AI Act rückt der Einsatz Künstlicher Intelligenz im Personalbereich in den Fokus der Regulierungsbehörden. Unternehmen, die KI-Systeme zur Bewerberauswahl, Leistungsbewertung oder anderen HR-Prozessen einsetzen, stehen nun vor der Herausforderung, diese Technologien rechtskonform in ihre Abläufe zu integrieren.
Dabei geht es nicht nur um technische Anpassungen, sondern vor allem um eine klare, nachvollziehbare und dokumentierte Entscheidungsarchitektur. Der AI Act unterscheidet zwischen verbotenen, hochriskanten und anderen Anwendungen – und fordert in jedem Fall Transparenz, Fairness und Datenschutz.
1. Den Einsatz von KI systematisch erfassen
Der erste Schritt besteht darin, eine vollständige Bestandsaufnahme aller KI-Anwendungen im HR-Bereich vorzunehmen. Dazu zählen nicht nur offensichtlich komplexe Tools, sondern auch einfache Systeme, die etwa Bewerbungen vorsortieren oder automatisierte Vorschläge für Weiterbildungen generieren.
Diese Erfassung sollte folgende Punkte dokumentieren:
-
Zweck der Anwendung
-
Art der verarbeiteten Daten
-
Entscheidungskompetenz des Systems (unterstützend oder autonom)
-
Auswirkungen auf Beschäftigte
2. Risikoklassifizierung nach AI Act durchführen
Anschließend ist zu prüfen, ob eine Anwendung als hochrisikobehaftet im Sinne des AI Acts einzustufen ist. Maßgeblich ist, ob die Entscheidung der KI erhebliche Auswirkungen auf die berufliche Zukunft der Betroffenen haben kann – etwa bei Einstellung, Beförderung oder Kündigung.
Auch Systeme zur Emotionserkennung oder Verhaltensüberwachung im Arbeitsumfeld fallen pauschal unter die verbotenen Anwendungen. Diese dürfen in der EU nicht zum Einsatz kommen – unabhängig von ihrer technischen Ausgereiftheit.
3. Datenschutz-Folgenabschätzung (DFSA) erstellen
Für hochriskante KI-Systeme ist zwingend eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO durchzuführen. Aber auch bei weniger kritischen Anwendungen empfiehlt sich eine solche Analyse, um Risiken frühzeitig zu erkennen und regulatorisch sauber zu dokumentieren.
Wichtig ist, dass diese Analyse vor dem Einsatz des Systems erfolgt. Rückwirkende Begründungen sind nicht zulässig. Die Dokumentation sollte nachvollziehbar aufzeigen:
-
Welches Problem die KI lösen soll
-
Welche Alternativen geprüft wurden
-
Welche Schutzmaßnahmen ergriffen wurden
-
Wie die Rechte der Beschäftigten gewahrt bleiben
4. Transparenz gegenüber Beschäftigten sicherstellen
Ein zentraler Punkt des AI Acts ist die Erwartungstransparenz. Beschäftigte müssen nachvollziehen können, dass und wie KI eingesetzt wird – und welche Daten zu welchen Zwecken verarbeitet werden.
Unternehmen müssen daher:
-
Informieren, dass KI verwendet wird
-
Den Zweck und die Funktionsweise erklären
-
Eine Anlaufstelle für Rückfragen schaffen
-
Möglichkeiten zur Einwilligung oder Ablehnung prüfen
Diese Kommunikation muss in verständlicher Sprache erfolgen – juristische oder technische Fachbegriffe sind dabei fehl am Platz.
5. Anbieter und deren Lieferketten prüfen
Viele Unternehmen nutzen KI-Produkte externer Anbieter. Hier besteht eine besondere Sorgfaltspflicht: Die Verantwortung für rechtskonformen Einsatz bleibt beim Arbeitgeber.
Das bedeutet konkret:
-
Die Trainingsdaten und Algorithmen müssen nachvollziehbar sein
-
Der Anbieter muss technische und organisatorische Schutzmaßnahmen vorweisen
-
Auch die Lieferkette (Subunternehmen, Datenquellen etc.) ist zu bewerten
-
Aussagen zur Anonymisierung müssen überprüfbar und belastbar sein
Wichtig: Eine bloße Zusicherung des Anbieters reicht nicht aus. Unternehmen müssen sich aktiv darum bemühen, die Funktionsweise und Risiken des Tools zu verstehen.
6. Dokumentation zentral organisieren
Sämtliche Entscheidungen, Bewertungen, Kommunikation und Abwägungen müssen dokumentiert werden. Nicht nur, um auf Anfragen von Aufsichtsbehörden vorbereitet zu sein – sondern auch, um interne Nachvollziehbarkeit zu gewährleisten.
Diese Dokumentation sollte regelmäßig überprüft und aktualisiert werden. Besonders bei weiterentwickelten KI-Modellen oder veränderten Anwendungsfällen muss eine erneute Bewertung erfolgen.
Fazit: Jetzt Strukturen schaffen
Der AI Act zwingt Unternehmen dazu, den Einsatz von KI im HR-Bereich kritisch zu hinterfragen – und vor allem rechtskonform zu gestalten. Wer jetzt handelt, kann Haftungsrisiken vermeiden, Vertrauen bei Mitarbeitenden aufbauen und langfristig Wettbewerbsvorteile sichern.
Die wichtigsten Maßnahmen auf einen Blick:
-
KI-Systeme erfassen und klassifizieren
-
Verbotene Anwendungen identifizieren
-
DFSA durchführen
-
Beschäftigte transparent informieren
-
Anbieter und Tools sorgfältig prüfen
-
Dokumentation standardisieren