一家银行使用人工智能来决定是否发放贷款。
一位客户被拒绝了,他询问原因。
银行说:“模型太复杂,我们无法给出可理解的解释。但它非常准确。”
客户说:“那我就无法改进自己的情况,也无法判断这是否公平。”
问题: “高准确率”是否足以成为不解释的理由?
答案将于明天解锁。
不够——在影响重大的决策中,“准确率”本身并不能替代解释。
当决策会带来重大后果(贷款、住房、就业、医疗)时,还需要:
• 可解释性(让当事人理解发生了什么) • 可申诉性(错误可以被质疑并纠正) • 公平性(能发现系统性不利) • 可追责(必须有人对结果负责)
务实做法: 即使模型复杂,也可以提供“人能理解”的理由(例如特征贡献/解释方法),或通过清晰的流程规则给出原因(“负债率过高且工作年限较短”)。
关键点: 模型不能以“太复杂”为借口来逃避责任。