Der schwarze Kasten


Eine Bank nutzt eine KI, um Kredite zu vergeben.

Ein Kunde wird abgelehnt. Er fragt nach dem Grund.


Die Bank sagt: „Das Modell ist zu komplex, wir können keine verständliche Begründung liefern. Aber es ist sehr genau.“


Der Kunde sagt: „Dann kann ich mich nicht verbessern. Und ich kann nicht prüfen, ob es fair war.“


Frage:
Ist „hohe Genauigkeit“ eine ausreichende Rechtfertigung, um keine Erklärung zu geben?

Lösung folgt morgen.