Die „faire“ Bewerbungs-KI
Ein Unternehmen nutzt eine KI, um Bewerbungen vorzusortieren.
Nach einem Jahr zeigt die Statistik: 90 % der eingeladenen Bewerber sind Männer.
Die KI wurde mit historischen Daten trainiert (die letzten 10 Jahre).
Die Entwickler sagen: „Die KI diskriminiert nicht. Sie lernt nur aus Daten.“
Die Geschäftsführung sagt: „Das Ergebnis ist unfair.“
Frage:
Wer trägt die Verantwortung – und was wäre eine sinnvolle, konkrete Maßnahme?
Lösung folgt morgen.
Lösung
Verantwortung trägt nicht die KI, sondern das Unternehmen (und intern: Management + Team, das das System baut und betreibt).
„Die KI lernt nur aus Daten“ erklärt das Ergebnis, aber es entlastet nicht: Historische Daten können historische Benachteiligung enthalten.
Konkrete Maßnahme (praxisnah):
• Audit: Prüfen, welche Merkmale den Ausschlag geben (z.B. bestimmte Karrierewege, Lücken, Begriffe).
• Fairness-Ziel definieren (z.B. gleiche Chancen bei gleicher Qualifikation).
• Technik/Prozess: Bias-Reduktion + Human-in-the-loop bei Grenzfällen.
• Monitoring: Regelmäßig messen, ob sich die Einladungsquoten angleichen – ohne Qualität zu verlieren.
Merksatz:
Daten erklären – Menschen verantworten.