KI-Bias im Recruiting: Wie Diskriminierung entsteht – und wie HR sie vermeidet

Key Takeaways

• KI-Bias entsteht durch verzerrte Trainingsdaten – die KI lernt aus der Vergangenheit und reproduziert deren Muster.
• Das AGG verbietet Benachteiligung nach Alter, Geschlecht, Herkunft, Religion, Behinderung und sexueller Identität – auch durch Algorithmen.
• Der Arbeitgeber haftet für Diskriminierung durch die KI, nicht der Software-Anbieter.
• Bias-Audits sind der wichtigste Schutz – sie prüfen systematisch, ob Gruppen benachteiligt werden.
• Anonymisierung vor der Analyse kann das Diskriminierungsrisiko deutlich reduzieren, ersetzt aber keine Prüfung der Auswahlkriterien und Ergebnisse.

KI Bias Recruiting: Was ist KI-Bias – und wie entsteht er?

Bias bezeichnet eine systematische Verzerrung in den Ergebnissen eines KI-Systems, die bestimmte Gruppen bevorzugt oder benachteiligt. Er ist selten Absicht – er ist ein Nebenprodukt der Daten, mit denen das System trainiert wurde.

Ein KI-System lernt aus Beispielen. Werden ihm die Lebensläufe bisher erfolgreicher Mitarbeitender gezeigt, leitet es daraus ab, welche Merkmale erfolgversprechend sind. Waren in der Vergangenheit überwiegend bestimmte Profile eingestellt worden, übernimmt die KI diese Schieflage – und sortiert Abweichungen aus.

Besonders tückisch ist mittelbare Diskriminierung: Die KI nutzt nicht direkt ein geschütztes Merkmal wie das Alter, sondern ein scheinbar neutrales Kriterium, das damit stark korreliert – etwa das Abschlussjahr oder Erfahrung mit älteren Technologien. Das Ergebnis ist dasselbe: Ältere Bewerber:innen fallen häufiger durch das Raster.

Neben mittelbarer Diskriminierung gibt es auch direkte Diskriminierung. Sie liegt vor, wenn ein geschütztes Merkmal selbst zum Auswahlkriterium wird, etwa Alter, Geschlecht, ethnische Herkunft, Religion, Behinderung oder sexuelle Identität. In der Praxis ist mittelbare Diskriminierung bei KI-Systemen oft schwerer zu erkennen, weil sie über Ersatzmerkmale entsteht, die auf den ersten Blick neutral wirken.

Beispiele für KI-Bias im Recruiting

KI-Bias kann im Recruiting auf unterschiedliche Weise entstehen:

Entscheidend ist: Diskriminierung entsteht nicht nur durch offensichtliche Merkmale wie Alter oder Geschlecht. Auch scheinbar neutrale Datenpunkte können zu unfairen Ergebnissen führen, wenn sie mit geschützten Merkmalen zusammenhängen.

Typische Bias-Quellen im Recruiting

• Historische Einstellungsdaten – die Vergangenheit war nicht divers, die KI schreibt sie fort.
• Verzerrte Stellenprofile – Anforderungen, die historisch gewachsen sind und bestimmte Gruppen ausschliessen.
• Sprachliche Muster – Formulierungen in Stellenanzeigen, die Zielgruppen unbewusst ansprechen oder abschrecken.
• Proxy-Merkmale – neutrale Datenpunkte (Wohnort, Name, Lücken im Lebenslauf), die mit geschützten Merkmalen korrelieren.
• Intransparente Modelle – Black-Box-Systeme, deren Kriterien niemand nachvollziehen kann.

Was das AGG verlangt

Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet die Benachteiligung wegen Rasse oder ethnischer Herkunft, Geschlecht, Religion oder Weltanschauung, Behinderung, Alter oder sexueller Identität (§ 1 AGG). Dieses Verbot gilt uneingeschränkt auch für algorithmische Auswahl.

Der rechtlich entscheidende Punkt: Gegenüber Bewerbenden bleibt das Unternehmen verantwortlich, das die KI im Auswahlprozess einsetzt. Auch wenn die Software von einem externen Anbieter stammt, muss der Arbeitgeber sicherstellen, dass Auswahlkriterien, Datenverarbeitung und Ergebnisse nicht diskriminierend wirken. Bei einem Verstoß gegen das Benachteiligungsverbot können Ansprüche auf Schadensersatz oder Entschädigung nach § 15 AGG entstehen. Wer die Auswahl an eine KI delegiert, muss sicherstellen, dass diese nicht diskriminiert. Verstösst das System gegen das AGG, haftet das Unternehmen auf Entschädigung nach § 15 AGG, auch bei zugekaufter Software.

Hinzu kommt die Beweislastumkehr nach § 22 AGG: Legt ein:e Bewerber:in Indizien für eine Benachteiligung vor – etwa eine statistisch auffällige Häufung von Absagen für eine geschützte Gruppe – muss der Arbeitgeber beweisen, dass keine Diskriminierung vorlag. Die rechtlichen Grenzen automatisierter Absagen behandelt der Beitrag Darf KI Bewerbungen automatisch ablehnen? im Detail.

Bias-Audit: So prüfen Sie Ihr System

Ein Bias-Audit ist eine systematische Prüfung, ob ein KI-System bestimmte Gruppen benachteiligt. Es ist der wirksamste Schutz vor Diskriminierung – und wird durch den EU AI Act für Hochrisiko-Systeme faktisch zur Pflicht.

Ein einfacher Audit-Ansatz in fünf Schritten:

• Testdaten zusammenstellen – vergleichbare Profile, die sich nur in einem geschützten Merkmal unterscheiden.
• Alle Profile bewerten lassen – dieselbe Stelle, dasselbe System.
• Ergebnisse vergleichen – gibt es systematische Unterschiede zwischen den Gruppen?
• Bei Auffälligkeiten stoppen – ein diskriminierendes System darf nicht produktiv laufen, bis das Problem behoben ist.
• Dokumentieren – die Ergebnisse gehören in die Nachweisdokumentation.

Ein Bias-Audit sollte nicht nur einmal vor dem Start durchgeführt werden. Sinnvoll ist eine regelmäßige Prüfung, insbesondere wenn sich Stellenprofile, Datenquellen, Auswahlkriterien oder das eingesetzte KI-Modell ändern.

Eine einfache Prüffrage lautet:

Erhalten vergleichbare Kandidat:innen bei gleicher Eignung ähnliche Bewertungen – unabhängig von Alter, Geschlecht, Herkunft, Behinderung oder anderen geschützten Merkmalen?

Wenn die Antwort nein lautet oder statistische Auffälligkeiten sichtbar werden, sollte das System nicht ungeprüft weiter eingesetzt werden.

Die Frequenz richtet sich nach der Komplexität: Für einfache Screening-Tools genügt eine quartals- bis jährliche Prüfung, bei entscheidungsstarken Systemen häufiger.

Zusätzlich zum AGG wird der EU AI Act für viele KI-Anwendungen im Recruiting relevant. Besonders sensibel sind Systeme, die Bewerbende bewerten, priorisieren, ranken oder Auswahlentscheidungen vorbereiten. Für solche Hochrisiko-Anwendungen werden unter anderem Risikomanagement, Datenqualität, technische Dokumentation, Transparenz, menschliche Aufsicht und laufende Überwachung wichtig. Bias-Audits helfen Unternehmen dabei, diese Anforderungen praktisch umzusetzen und Diskriminierungsrisiken früh zu erkennen.

Die Frequenz richtet sich nach der Komplexität: Für einfache Screening-Tools genügt eine quartals- bis jährliche Prüfung, bei entscheidungsstarken Systemen häufiger.

Ein Bias-Audit sollte fester Bestandteil jeder KI-Einführung sein. Unser Fahrplan in 5 Schritten zeigt, wie Datenschutz, Team-Akzeptanz und Qualitätssicherung von Anfang an mitgedacht werden.

‍

Was Unternehmen dokumentieren sollten

Um KI-Bias im Recruiting nachvollziehbar zu begrenzen, sollten Unternehmen zentrale Entscheidungen dokumentieren:

• welche KI-Anwendung eingesetzt wird,
• für welchen Recruiting-Schritt sie genutzt wird,
• welche Daten verarbeitet werden,
• welche Auswahlkriterien hinterlegt sind,
• wer KI-Ergebnisse prüft,
• wann Bias-Audits durchgeführt wurden,
• welche Auffälligkeiten festgestellt wurden,
• welche Korrekturmaßnahmen ergriffen wurden.

Diese Dokumentation schützt nicht nur rechtlich. Sie hilft auch dabei, Recruiting-Prozesse fairer, transparenter und besser steuerbar zu machen.

Fünf Hebel für faire KI-Auswahl

• Anonymisierung vor der Analyse – Name, Alter, Geschlecht, Foto und Herkunft entfernen, bevor die KI bewertet.
• Kompetenz statt Lebenslauf-Muster – gegen definierte Anforderungen matchen, nicht gegen „ähnlich wie bisherige Mitarbeitende“.
• Transparente Kriterien – nachvollziehbare Scores statt Black Box.
• Menschliche Endentscheidung – die KI bereitet vor, ein Mensch entscheidet und verantwortet.
• Regelmässige Audits und Feedback – Verzerrungen erkennen und nachschärfen.

Richtig eingesetzt kann KI Bias sogar reduzieren: Ein System mit einheitlichen Kriterien bewertet alle Kandidat:innen nach demselben Massstab – und gleicht damit die unbewussten Vorurteile aus, die bei manueller Sichtung unter Zeitdruck entstehen.

Kann KI Bias im Recruiting auch reduzieren?

Ja, richtig eingesetzt kann KI dazu beitragen, menschliche Vorurteile im Recruiting zu reduzieren. Das gelingt aber nur, wenn die KI nicht historische Muster kopiert, sondern anhand klar definierter, stellenbezogener Kompetenzen bewertet.

Vorteile können sein:

• einheitliche Kriterien für alle Bewerbungen,
• weniger Bauchgefühl in der Vorauswahl,
• bessere Dokumentation von Auswahlentscheidungen,
• frühere Erkennung auffälliger Muster,
• konsequentere Orientierung an Muss-Kriterien statt an Sympathie oder Lebenslaufästhetik.

KI reduziert Bias also nicht automatisch. Sie kann fairer machen, wenn Daten, Kriterien, menschliche Kontrolle und Audits sauber gestaltet sind. Dabei verändert sich auch die Rolle der Recruiter:innen: KI ersetzt sie nicht, sondern verschiebt den Fokus auf Beratung, Beziehung und Verantwortung.

‍

Fazit

KI-Bias ist kein Grund, auf KI im Recruiting zu verzichten – aber ein Grund, sie verantwortungsvoll einzusetzen. Verzerrungen entstehen aus Daten, nicht aus bösem Willen, und lassen sich mit Anonymisierung, transparenten Kriterien, menschlicher Kontrolle und regelmässigen Bias-Audits wirksam begrenzen. Unternehmen, die das ernst nehmen, senken ihr Haftungsrisiko nach dem AGG und treffen zugleich bessere, fairere Einstellungsentscheidungen.

OnApply anonymisiert Bewerbungsdaten vor der KI-Analyse und stellt eine dokumentierte, menschliche Endentscheidung sicher – für faire und rechtssichere Auswahl.