“公平”的招聘 AI
一家企业使用人工智能对求职申请进行预筛选。
一年后统计显示:被邀请面试的人中有 90 % 是男性。
该 AI 使用历史数据训练(过去 10 年)。
开发者说:“AI 没有歧视,它只是从数据中学习。”
管理层说:“这个结果不公平。”
问题:
谁应该负责——并且有什么具体、合理的改进措施?
答案将于明天解锁。
答案
AI 不承担道德责任。 责任在企业(以及内部:制定目标的管理层和搭建/运营系统的团队)。
“它只是从数据学习”能解释结果,但不能成为借口:历史数据可能包含历史性的不平等与偏见。
具体措施(务实):
• 审计:找出哪些信号在驱动决策(职业路径、空档、关键词等)。
• 定义公平目标(例如:同等能力下的机会公平)。
• 改进流程:偏差缓解 + 人工复核 用于临界案例。
• 持续监控:定期衡量结果是否改善,并根据数据进行调整。
一句话:
数据解释——人来负责。