Künstliche Intelligenz (KI) revolutioniert das Recruiting – schneller, effizienter, datengetrieben. Doch was passiert, wenn die Maschinen unbewusste Vorurteile übernehmen? Wie stellen wir sicher, dass KI unsere HR-Prozesse fairer und nicht noch verzerrter macht? In diesem Artikel tauchen wir ein in das Thema Bias in HR-KI-Systemen, schauen uns konkrete Beispiele an und zeigen Wege auf, wie wir als HRler:innen Verantwortung übernehmen können.
Warum entstehen Bias in HR-KI-Systemen?
Bias – also Verzerrungen oder systematische Ungleichbehandlungen – sind nicht nur ein Problem von KI, sondern auch von uns Menschen. Jede:r von uns hat unbewusste Vorurteile, die durch Erfahrungen, Kultur oder soziale Strukturen geprägt sind. Im Alltag führen diese Biases dazu, dass wir Menschen unterschiedlich wahrnehmen und behandeln, oft, ohne es zu merken. In Einstellungsprozessen zeigen sie sich beispielsweise, indem eher Bewerber:innen bevorzugt werden, die einem selbst ähnlich sind (Similarity Bias/Affinity Bias). 1
Genau dieses Phänomen zeigt sich auch in KI-Systemen: KI übernimmt solche Verzerrungen nicht aktiv, aber sie lernt aus Daten, die von Menschen stammen. Wenn diese Daten bereits bestehende Ungleichheiten oder Einseitigkeiten widerspiegeln, verstärkt die KI diese Muster – oft ohne, dass es bewusst bemerkt wird. Das Problem liegt also nicht in der Technologie selbst, sondern darin, wie und mit welchen Daten sie trainiert wird. Genau hier müssen wir ansetzen.
🔍 Datenqualität: Wenn KI-Modelle auf unvollständigen oder unausgewogenen Datensätzen trainiert werden, spiegelt sich das in den Entscheidungen wider. Beispiel: Wenn ein Unternehmen in der Vergangenheit hauptsächlich männliche Führungskräfte eingestellt hat, lernt die KI, dass „männlich“ eine Erfolgsvariable ist.
📜 Historische Verzerrungen: KI-Modelle werden mit alten Daten trainiert – und wenn diese Daten bereits diskriminierende Muster enthalten, verstärkt die KI diese unbewusst. Ein klassisches Beispiel: Viele KI-gestützte Bewerbungsfilter bevorzugen Bewerber:innen mit bestimmten Namen, weil die historische Datenbasis ihnen eine höhere Erfolgswahrscheinlichkeit zuschreibt. 2
🛠️ Black Box Algorithmen: Viele KI-Systeme sind intransparent. Warum eine Entscheidung getroffen wurde, bleibt unklar – und das macht es schwer, Fehler oder Verzerrungen zu korrigieren.
Bekannte Beispiele für diskriminierende Algorithmen
Bias in HR-KI ist kein theoretisches Problem – es gibt bereits reale Fälle, die zeigen, wie schief es gehen kann:
❌ Amazon’s Recruiting-KI: Amazon entwickelte ein KI-gestütztes Bewerbungsfilter-System, das jedoch systematisch Frauen benachteiligte. Der Algorithmus wurde mit Lebensläufen aus den vergangenen zehn Jahren trainiert, die überwiegend von Männern stammten. Dadurch lernte die KI, männliche Bewerber zu bevorzugen, und bewertete Lebensläufe von Frauen schlechter. 3
❌ Benachteiligung auf Social Media: Algorithmen auf Jobplattformen wie Facebook neigen dazu, Stellenanzeigen geschlechtsspezifisch auszuspielen. So wurden beispielsweise Anzeigen für Lastwagenfahrer häufiger Männern und solche für Kinderbetreuung häufiger Frauen angezeigt, was bestehende Geschlechterstereotype verstärkt. 4
Wie HR Bias in KI-Systemen reduzieren kann
Wir als HR-Community haben eine Verantwortung: Technologie soll Menschen unterstützen – nicht diskriminieren. Wie stellen wir also sicher, dass unsere KI-Systeme fair bleiben?
✨ Transparente Algorithmen: Setzt auf HR-Tech-Lösungen, die erklären können, wie sie Entscheidungen treffen. Wenn ein System nicht nachvollziehbar ist, sollte es nicht zur Auswahl von Menschen eingesetzt werden.
🌍 Diverse Trainingsdaten: Nutzt möglichst vielfältige Datensätze, um Verzerrungen zu vermeiden. Das bedeutet: unterschiedliche Altersgruppen, Geschlechter, ethnische Hintergründe und berufliche Werdegänge einbeziehen.
🔍 Regelmäßige Audits: KI-Systeme müssen laufend überprüft und getestet werden. Setzt auf unabhängige Audits, um Bias frühzeitig zu erkennen und gegenzusteuern.
🧑🏫 Mensch bleibt in der Verantwortung: KI kann eine wertvolle Unterstützung sein – aber Entscheidungen über Menschen sollten immer von Menschen überprüft werden. KI sollte Empfehlungen geben, nicht den letzten Ausschlag bei einer Einstellung.
Die Verantwortung von HR: Wir gestalten den Wandel
KI ist ein mächtiges Tool – aber es braucht uns HRler:innen, um es richtig zu nutzen. Wir haben die Chance, Recruiting fairer, inklusiver und effizienter zu gestalten. Das bedeutet aber auch, dass wir uns mit den Fallstricken auseinandersetzen müssen.
Let’s make HR tech truly human-centered!
Quellen:
2 Nghiem, H., Prindle, J., Zhao, J., & Daumé III, H. (2024). "You Gotta be a Doctor, Lin": An Investigation of Name-Based Bias of Large Language Models in Employment Recommendations. University of Maryland & University of Southern California. Verfügbar unter: https://arxiv.org/abs/2406.12232
