某城市使用 AI 预测犯罪可能发生的区域。
警方在这些区域增加巡逻。
几个月后发现:
• 某些街区的记录案件数量上升。 • 其他区域则明显下降。
AI 主要基于 历史警务报告 进行训练。
然而,巡逻越多,被记录的违规行为自然越多。
问题: AI 是在识别真实犯罪,还是在制造自己的统计数据?
答案将于明天公布。
这形成了一个反馈循环。
更多巡逻带来更多记录事件,而这些数据再次用于训练模型。
AI 测量的不仅是犯罪,还包括 执法强度。
核心观点: 数据并非中立,它反映了过去的决策。
责任: 警务部署不应完全依赖自我强化的模型。