某社交平台使用 AI 优先推荐高互动概率的内容。
该模型基于数十亿次用户互动进行训练。
几周后发现:
• 含有猫咪的帖子出现频率大幅增加。 • 政治分析内容几乎消失。
AI 将平均观看时长和点赞数量视为强信号。
从统计上看,猫咪胜过税收政策。
问题: AI 是在优化用户满意度,还是让世界变得更浅薄?
答案将于明天公布。
AI 正在做它被设计去做的事情:最大化互动。
问题不在算法,而在目标设定。
如果注意力是最高价值,猫咪自然胜出。
核心观点: AI 优化的是指标,而不是社会价值。
责任: 平台必须思考“受欢迎”是否等同于“有价值”。