一家银行使用 AI 对贷款申请进行预筛选。
该模型基于历史数据训练,将处理时间减少了 40 %。
一年后发现:
• 自由职业者获得贷款的概率明显更低。 • 收入相当的受雇人员更容易获批。
AI 将 月收入波动幅度 作为重要指标。
自由职业者的收入本身更不稳定。
问题: 这是合理的风险评估,还是结构性的歧视?
答案将于明天公布。
这种评估在经济逻辑上可以理解,但可能带来结构性不公平。
模型将收入稳定性视为风险指标。
核心观点: AI 会强化既有市场逻辑,公平性取决于目标设定。
责任: 银行应确保标准透明,并考虑替代评估方式。