Der unsichtbare Kreditfilter
Eine Bank setzt eine KI ein, um Kreditanträge vorzusortieren.
Das Modell wurde mit historischen Daten trainiert und reduziert die Bearbeitungszeit um 40 %.
Nach einem Jahr zeigt sich:
• Selbstständige erhalten deutlich seltener Kredite.
• Angestellte mit vergleichbarem Einkommen deutlich häufiger.
Die KI nutzt als starkes Merkmal die Schwankungsbreite des monatlichen Einkommens.
Selbstständige haben naturgemäß unregelmäßigere Einnahmen.
Frage:
Ist das eine legitime Risikobewertung – oder strukturelle Benachteiligung?
Lösung folgt morgen.
Lösung
Die Bewertung ist ökonomisch nachvollziehbar, kann aber strukturell unfair wirken.
Das Modell nutzt Einkommensstabilität als Risikofaktor – das benachteiligt systematisch Berufsgruppen mit schwankenden Einnahmen.
Die Frage ist: Wird Risiko gemessen – oder ein bestimmtes Lebensmodell bevorzugt?
Kernpunkt:
KI verstärkt bestehende Marktlogiken. Fairness hängt von der Zieldefinition ab.
Verantwortung:
Die Bank muss transparent machen, welche Kriterien verwendet werden und ggf. alternative Bewertungsmodelle prüfen.