Компания использует ИИ для предварительного отбора резюме.
Через год статистика показывает: 90 % приглашённых кандидатов — мужчины.
ИИ обучали на исторических данных (за последние 10 лет).
Разработчики говорят: «ИИ не дискриминирует. Он просто учится на данных.»
Руководство говорит: «Результат несправедлив.»
Вопрос:
Кто несёт ответственность — и какая конкретная мера была бы разумной?
Решение будет доступно завтра.
Решение
ИИ не несёт моральной ответственности. Ответственность лежит на компании (и внутри неё — на руководстве и команде, которая создаёт и эксплуатирует систему).
Фраза «он просто учится на данных» объясняет результат, но не оправдывает его: исторические данные могут содержать исторические перекосы.
Конкретная мера (практично):
• Аудит: выяснить, какие признаки сильнее всего влияют на решения (пути карьеры, “пробелы”, ключевые слова).
• Задать критерий справедливости (например, равные шансы при равной квалификации).
• Улучшить процесс: снижение bias + человек в контуре для пограничных случаев.
• Мониторинг: регулярно измерять результаты и корректировать систему.