一家医院使用人工智能预测哪些患者会在未来 30 天内再次入院。
该模型在测试中达到 92 % 的准确率,并基于历史数据进行训练。
六个月后发现:
• 来自富裕地区的患者较少被判定为“高风险”。 • 来自贫困地区的患者被判定为“高风险”的比例明显更高。
分析显示,该模型主要使用 过去就医次数 作为重要指标。
问题: 该模型是歧视性的,还是仅仅在统计上正确?
答案将于明天解锁。
该模型在统计上合理,但在结构上不公平。
模型使用的指标与医疗资源获取能力密切相关。
因此,人工智能系统可能在无意中强化既有的不平等。