Künstliche Intelligenz (KI) verändert das Bewerbungsmanagement vom Stellenangebot bis zur Einstellung. Wir erklären, welche KI-Tools am Markt verbreitet sind, welche rechtliche Rahmenbedingungen Sie beachten sollten und wie Sie KI im Bewerbermanagement rechtssicher einführen.
Welche Funktionen bieten marktübliche KI-Tools?
Welche Funktionen KI-Tools für den Einsatz im Bewerbermanagement benötigen, hängt oft von der Unternehmensgröße und dem jeweiligen Einsatzgebiet ab. Wir erklären die bekanntesten Funktionen von KI-Tools im Recruiting:
Matching-Tools
Matching-Tools verfolgen das Ziel, Bewerbende und Stellen möglichst passgenau zusammenzuführen. Die dafür genutzten Algorithmen vergleichen Qualifikationen, Erfahrungen und Präferenzen mit Anforderungsprofilen und Unternehmenskultur. Diese KI-Tools werten sowohl Daten aus Bewerbungsunterlagen (z. B. Lebenslauf) als auch die Inhalte aus Stellenanzeigen aus, um mögliche Übereinstimmungen zu berechnen.
Beispiele sind dafür Systeme wie der LinkedIn Recruiter oder Cloud-Lösungen wie LogOn, die bei der Suche nach geeigneten potenziellen Bewerbern unterstützen.
Chatbots
Karriere-Chatbots sind Programme, wie z. B. Paradox oder AllyO, die mit Menschen entweder schriftlich oder ggf. mündlich kommunizieren und im Recruiting als dauerhafter Ansprechpartner fungieren. Sie können einfache (regelbasierte) Dialoge führen, auf Anfragen reagieren, Informationen zur Verfügung stellen, über Stellen Auskunft geben sowie einfache Aufgaben übernehmen und damit zum Beispiel auf fehlende Unterlagen hinweisen.
Durch sie können Mitarbeiter im HR-Bereich entlastet werden und garantieren dennoch eine Erreichbarkeit rund um die Uhr.
HR-Analytics
HR-Analytics bezeichnet die datengetriebene Analyse und Steuerung von Personalprozessen. Sie hilft, Entscheidungen objektiver und evidenzbasierter zu treffen. Ziel ist, den HR-Bereich datenbasiert zu steuern. Statt nur einzelne Prozesse zu betrachten, wird der gesamte Weg einer Bewerbung beleuchtet (von der Veröffentlichung der Stelle bis zum Onboarding). Mit Hilfe der KI kann ausgewertet werden, über welche Recruiting-Kanäle besonders gute Bewerbungen gefunden werden, wie effizient der Auswahlprozess abläuft und welche Verfahren die Mitarbeiterbindung und die Leistung am stärksten fördern.
Der Nutzen liegt in schnelleren Entscheidungen, effizienterer Ressourcennutzung im Bewerbermanagement und der Möglichkeit, HR-Maßnahmen im Vorfeld zu planen. Gleichzeitig ermöglicht HR-Analytics eine objektivere, datenbasierte Bewertung von Bewerbern, da diese jeweils anhand derselben, vorher definierten Anforderungen erfolgt.
Online-Assessments mit KI
Online-Assessments zur Eignungsbeurteilung können ebenso von KI profitieren. Sie ermöglicht adaptive Teststellungen, präzisere Auswertung und den Einsatz von Analyseverfahren.
Die KI kann den Assessment-Durchlauf begleiten, fehlende Informationen erfragen und Feedback geben.
Textanalyse-Verfahren
Textanalyse-Verfahren verarbeiten Bewerbungsunterlagen und Stellenbeschreibung auf einer kontextbezogenen Ebene. Sie erkennen Bedeutungen, Beziehungen und implizite Aussagen und können so beim CV-Parsing unterstützen.
Tipp: Lesen Sie auch unseren allgemeinen Ratgeber zum Einsatz von KI-Systemen im HR-Bereich.
Worauf ist bei der Auswahl von KI-Recruitingtools zu achten?
Bei der Auswahl eines KI-Tools für das Recruiting sollten Sie neben Preis, einfacher Bedienbarkeit oder Bekanntheitsgrad vor allem die folgenden Aspekte beachten:
Datenschutz
Das KI-Tool muss die Anforderungen aus der Datenschutz-Grundverordnung (DSGVO) erfüllen, da deren Anwendungsbereich bei Bewerbungen eröffnet ist. Es muss klar sein, wer die verantwortliche Stelle ist, wo die Daten gehostet, welche Kategorien personenbezogener Daten verarbeitet und wie lange sie gespeichert werden. Ebenso müssen Vertragsbestandteile wie eine mögliche Auftragsverarbeitung rechtskonform gestaltet sein (mehr dazu weiter unten).
Transparenz
Betroffene und Anwender müssen nachvollziehen können, wie ein mögliches Ranking oder Scoring von Bewerbern zustande kommt. Dafür muss das Tool seine Entscheidungen erklären können, um Diskriminierung zu verhindern.
Bias-Management
Es ist notwendig, dass bei dem KI-Tool Fairness-Tests vorgenommen sowie Audit-Berichte geführt werden. Daneben müssen Maßnahmen zur Reduktion von Verzerrungen und Informationen zu Trainingsdaten vorliegen.
Tipp: Erfahren Sie mehr über Bias in KI-Anwendungen und wie Sie dem als Unternehmen vorbeugen.
Integration und Funktionsumfang
Das Tool sollte zu dem vorhandenen HR-System passen. Hier ist auf eine technische Integrationsfähigkeit zu achten, denn es geht nicht darum, neue Insellösungen zu bauen und damit den Recruitingprozess zu verkomplizieren. Zu bedenken ist auch, dass immer mehr HR-Systeme bereits KI-Anwendungen integriert haben, hier gilt es, Kompatibilität sicherzustellen.
Stellen Sie sich ebenso die Frage, was für Funktionen das KI-Tool haben soll. Unterstützt es CV-Parsing, Job-Matching, Anschreiben-Generierung oder Interview-Scheduling?
Hinweis: Unserer Erfahrung nach kommen kleinere und mittlere Firmen oft mit schlankeren Modellen und standardisierten Lösungen gut zurecht, während größere Unternehmen stärkere Sprachmodelle, tiefere Integrationen und umfangreichere Compliance-Maßnahmen benötigen.
Rechtliche Rahmenbedingungen beim KI-Einsatz im Bewerbungsmanagement
DSGVO
Die DSGVO enthält spezielle Vorgaben zur automatisierten Entscheidungsfindung. Besonders relevant für KI bei Bewerbungen ist Art. 22 DSGVO, der vor rein automatisieren Entscheidungen mit rechtlichen oder ähnlich gravierenden Folgen schützt. Diese sind nur in Ausnahmefällen (z. B. für die Vertragserfüllung erforderlich oder durch ausdrückliche Einwilligung des Betroffenen) und unter menschlicher Kontrolle zulässig.
Würde also ein KI-System ohne menschliche Kontrolle eigenständig darüber entscheiden, ob der Bewerber eingestellt oder abgelehnt wird, wäre dies ein Verstoß gegen datenschutzrechtliche Vorgaben.
Deshalb ist notwendig, dass im Bewerbungsprozess alle zentralen Entscheidungen durch HR-Mitarbeiter getroffen werden. KI darf lediglich unterstützen. Damit HR die Entscheidungen rechtskonform treffen kann, ist es zudem erforderlich, dass die Datengrundlage und die Bewertungskriterien transparent und nachvollziehbar sind. Wenn nicht klar ist, welche Kriterien eine KI bewertet oder welche Faktoren ihre Entscheidung beeinflussen, kann sie nicht im Bewerbungsprozess eingesetzt werden.
Ebenso verpflichtet Art. 35 DSGVO dazu, eine Datenschutz-Folgenabschätzung (DSFA) durchzuführen, wenn eine systematische, umfassende Bewertung personenbezogener Daten durch automatisierte Verfahren erfolgt oder besonders schützenswerte Daten verarbeitet werden. Schon die Erstellung großer Trainingsdatensätze für eine KI kann ein hohes Risiko darstellen und die Durchführung einer DSFA erzwingen.
Auch für die Risikobewertung ist die Transparenz des KI-Systems entscheidend. Wenn unklar ist, welche Daten in das Modell fließen oder welche Merkmale und Kriterien die KI bewertet, lässt sich das tatsächliche Risiko nicht im Rahmen der DFSA ermitteln. Aufgrund der unbekannten Risiken könnten folglich keine geeigneten technischen und organisatorischen Maßnahmen gewählt werden, um die personenbezogenen Daten angemessen zu schützen.
KI-Verordnung
Mit dem KI-Verordnung (AI Act) wurde zusätzlich ein eigenständiger KI-Rahmen eingeführt, der die DSGVO ergänzt. Die KI-Verordnung verfolgt einen risikobasierten Ansatz und hebt in Art. 6 Abs. 2 i. V. m. Anhang III bestimmte KI-Anwendungen im Personalwesen als „Hochrisiko“ hervor, wenn sie wesentliche Auswirkungen auf Gesundheit, Sicherheit oder Beschäftigung haben. Darunter fallen alle KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten. Dazu zählen beispielsweise automatisierte Auswahlverfahren und Beurteilungen von Leistungen.
- Systeme mit hohem Risiko, etwa automatisierte Bewerber-Screening-Tools dürfen zwar eingesetzt werden, unterliegen aber strengen Voraussetzungen und werden daher als Hochrisiko-KI-Systeme gewertet.
- Begrenzt risikobehaftete Anwendungen wie Chatbots oder interaktive HR-Assistenten müssen eindeutig als KI gekennzeichnet werden und Beschwerdemechanismen bereitstellen.
Tipp: Lesen Sie unseren Artikel zur Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme.
Allgemeines Gleichbehandlungsgesetz
Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet Diskriminierung im Einstellungsprozess. Ausnahmen sind nur im Rahmen des § 8 AGG möglich, wenn z. B. eine Anforderung ausdrücklich berufsbezogen ist.
KI-Systeme können direkte (Benachteiligung wegen eines geschützten Merkmals, § 3 Abs. 1 AGG) und indirekte (wenn neutrale Kriterien bestimmte Gruppen faktisch benachteiligen, Art. 3 Abs. 2 AGG) Diskriminierung verstärken.
- Eine unmittelbare Benachteiligung liegt beispielweise bei einem automatischen Alterslimit vor,
- während eine mittelbare Benachteiligung bei scheinbar neutralen Kriterien anknüpft, die aber mit dem geschützten Merkmal im Zusammenhang stehen, wie z. B. das Jahr des Schulabschlusses.
Nach § 12 Abs. 1 AGG hat der Arbeitgeber geeignete Maßnahmen gegen Benachteiligungen zu treffen. Unternehmen tragen in diesen Fällen die Verantwortung, dass deren KI-System diskriminierungsfreie Verfahren einsetzt.
Darüber hinaus müssen Verantwortliche etwaige Bias (Verzerrungen) erkennen, dokumentieren sowie im Anschluss korrigieren. Dabei regelt die KI-Verordnung in Art. 10 Abs. 5, dass unter bestimmten Voraussetzungen für Anbieter solcher Systeme ausnahmsweise die Verarbeitung sensibler Daten zur Bias-Erkennung sowie zu deren Korrektur erlaubt ist.
In Zukunft soll die Ausnahmeregelung nicht nur auf Anbieter beschränkt bleiben, sondern auch auf Betreiber von KI-Systemen ausgeweitet werden, so dass Korrekturen hinsichtlich Bias künftig noch umfassender vorgenommen werden können.
Betriebsverfassungsgesetz
In Deutschland hat der Betriebsrat weitreichende Mitbestimmungsrechte bei der Einführung und dem Einsatz technischer Überwachung oder Systeme, die das Verhalten oder die Leistung von Beschäftigten überwachen (§§ 87 ff. BetrVG). Das kann auch KI-Tools, die die Bewerberauswahl beeinflussen, mit einschließen. Daher müssen Arbeitgeber frühzeitig den Betriebsrat und ggf. einen Datenschutzbeauftragten miteinbinden.
Tipp: Lesen Sie dazu auch bei activeMind.legal Rechtsanwälte, inwiefern der Betriebsrat bei der Einführung von KI laut einem deutschen Urteil mitreden darf.
Rechtssichere Einführung von KI ins Bewerbermanagement
Voraussetzungen für KI-Einsatz schaffen
Um die rechtlichen Vorgaben zu erfüllen, ist erforderlich, dass Unternehmen nicht nur bei der Auswahl den Funktionsumfang und Integrationsfähigkeit prüfen, sondern auch, wie das KI-Tool mit sensiblen Daten umgeht, wie nachvollziehbar die getroffenen Entscheidungen sind, ob Fairness-Kontrollen integriert sind und inwiefern personenbezogene Daten zum Training des KI-Systems verwendet werden.
Ob das Training mit personenbezogenen Daten auf das berechtigte Interesse nach Art. 6 Abs. 1 lit. f DSGVO gestützt werden darf, ist dabei fraglich. Dies würde nämlich sowohl die Erforderlichkeit der Verarbeitung als auch überwiegende berechtigte Interessen des Verantwortlichen an der Verarbeitung gegenüber den relevanten Grundrechten bzw. Freiheiten der Betroffenen voraussetzen.
Tipp: Mehr erfahren Sie in unserem Ratgeber zum berechtigten Interesse für Verarbeitung personenbezogener Daten bei KI-Modellen.
Jedes KI-Tool ist auf potenzielle Gefährdungen für Gesundheit, Sicherheit und Beschäftigungsverhältnisse zu prüfen. Im Rahmen einer DSFA nach Art. 35 DSGVO müssen alle technischen und organisatorischen Maßnahmen nachgewiesen werden können, die Genauigkeit und Zuverlässigkeit des Systems garantieren.
Entscheidend ist die Zielsetzung: Welche Schritte im Bewerberprozess sollen automatisiert werden (Sichtung, Matching, Assessments)? Anschließend ist anhand der genannten Auswahlkriterien ein für diesen Zweck geeignetes KI-Tool zu wählen. Oft lassen sich verschiedene Module auch kombinieren. Allerdings steigern sich mit größere Datenbasis auch zugleich die Gefahren wie Verzerrungen, mangelnde Transparenz und Datenschutzrisiken.
Daher gelten automatisierte Entscheidungen nur als Empfehlungen und finale Entscheidungen müssen von Mitarbeitenden getroffen werden.
Zudem sind KI-Modelle sowohl vor als auch während des Betriebs mit Testdaten zu überprüfen. Regelmäßige Stichprobenanalysen helfen dabei, potenzielle Verzerrungen in den Daten oder den Algorithmen frühzeitig zu erkennen.
Regelmäßige Audits und Schulungen spielen eine wichtige Rolle. Mitarbeitende brauchen technisches Grundwissen, um KI-Systeme sicher zu bedienen, um so Anwendungsfehler zu vermeiden.
Darüber hinaus ist es erforderlich, dass Bewerber über eingesetzte automatisierte Verfahren informiert und über ihre Rechte aufgeklärt werden. Zudem muss offengelegt werden, welche Entscheidungskriterien und Ablehnungsgründe das KI-System zur Bewertung heranzieht.
Stufenweise Einführung des KI-Tools
Um mögliche Risiken zu begrenzen, empfehlen wir eine stufenweise Einführung des KI-Tools im Bewerbermanagement:
- Definieren Sie, für welche Zwecke Sie die KI einsetzen wollen und ordnen Sie das KI-System anschließend einer Risikokategorie zu.
- Führen Sie eine Datenschutzfolgeabschätzung nach Art. 35 DSGVO über den Einsatz des KI-Tools durch.
- Stellen Sie sicher, dass Sie über eine geeignete technische Infrastruktur verfügen.
- Prüfen Sie mögliche Auftragsverarbeitungsverträge und Haftungsregelungen.
- Binden Sie frühzeitig den Betriebsrat und ggf. den Datenschutzbeauftragen ein.
- Implementieren Sie Bias-Tests und Monitoring.
- Informieren Sie Bewerber über den Einsatz von KI-Tools und gestalten Sie transparente Entscheidungsprozesse.
- Ermöglichen Sie eine menschliche Überprüfung der automatisierten Entscheidung.
Fazit
Der Einsatz verschiedener KI-Tools kann damit das Bewerbermanagement im Unternehmen effizienter gestalten, soll aber den Menschen nicht ersetzen. Vielmehr soll mit Hilfe der Tools die Vorauswahl beschleunigt, die Passgenauigkeit zwischen Bewerber und Unternehmen erhöht und die Kommunikation entlastet werden.
Jedes Tool birgt jedoch eigene Risiken, etwa Verzerrungen oder fehlende Transparenz im Entscheidungsprozess, die nur durch Tests, Monitoring und menschliche Kontrolle ausgeglichen werden können.