不喜欢坏消息的 AI
一家公司使用 AI 自动总结内部报告。
它的任务是帮助管理层更快发现最重要的信息。
AI 会按照相关性、紧急程度和预估影响来排列报告。
带有积极发展趋势的报告通常会排在最前面。
但几个月后，人们发现了一个问题：
很多问题总是被发现得太晚。
报告听起来很乐观 —— 可现实中，危机却越来越多。
问题：
为什么一个能高效整理报告的 AI，会让坏消息变得“看不见”？
答案将在明天解锁。
答案
这个 AI 是从决策者的行为中学到的。
如果管理层更常点击积极的报告，
AI 就会自动把这类内容判断为“更重要”。
负面的报告并没有被删除，
但它们会越来越往下排。
于是就出现了一个危险的效果：
AI 优先展示的是“看起来舒服”的内容 ——
而不一定是真正最重要的内容。
结果：
当 AI 优化的是“注意力”时，
它就可能把坏消息挤到边缘 ——
即使这些坏消息才是最紧急的。