Банк отвечает: «Модель слишком сложная. Мы не можем дать понятное объяснение. Но она очень точная.»
Клиент отвечает: «Тогда я не могу улучшить ситуацию. И я не могу проверить, было ли это справедливо.»
Вопрос:
Достаточно ли “высокой точности”, чтобы не объяснять решение?
Решение будет доступно завтра.
Решение
Нет — в ситуациях с серьёзными последствиями одной “точности” недостаточно.
Когда решение сильно влияет на жизнь (кредит, жильё, работа, медицина), важны также:
• Понятность (чтобы человек понимал, что произошло)
• Оспоримость (ошибки можно оспорить и исправить)
• Справедливость (видно систематическое неравенство)
• Ответственность (кто отвечает за решение)
Практический подход:
Даже сложные модели могут выдавать понятные причины (методы объяснения, вклад признаков) или работать в рамках ясных правил процесса («отказ из-за высокой долговой нагрузки и короткого стажа»).
Главная мысль:
“Сложность” не должна быть способом уйти от ответственности.