一个社交媒体平台使用 AI 来排序用户的信息流。
目标是展示用户最感兴趣的内容。
AI 会测量用户观看一条内容的时间，
以及是否评论或分享。
过了一段时间，研究人员发现了一个现象：
越来越多的内容变得极端、愤怒或挑衅。
平静和理性的内容却越来越少。
平台本身从未刻意偏好这些内容。
但算法似乎仍然把它们推到了最前面。
问题： 为什么一个只想展示“有趣内容”的算法，会越来越偏好极端内容？
答案将在明天解锁。
这个算法优化的是“注意力”。
能够引发强烈情绪的内容
通常会获得更多评论、分享和观看时间。
AI 会把这些反应理解为“更有趣”。
于是它会更频繁地推荐类似内容。
随着时间推移，这种效果会不断加强：
极端内容带来更多反应，
因此又被展示得更多。
结果： 算法并不是故意制造冲突。 它只是根据数据运行 —— 而强烈情绪往往最能吸引注意力。