只喜欢好消息的算法
一家新闻平台开发了一种人工智能,旨在根据新闻对读者的相关性自动排序新闻文章。
该人工智能被训练识别包含重要信息和最新事件的文章,并将其突出显示。
推出后,编辑们注意到该人工智能几乎只偏好积极或乐观的新闻,而大幅忽略负面或批评性的报道。
团队疑惑:为什么这款被训练为中立评价的人工智能,会强烈倾向于只突出好消息?
问题:
为什么一款旨在根据相关性排序新闻的人工智能,会倾向于偏好正面新闻,而系统性地忽视负面报道?
答案明天揭晓。
答案
该人工智能是基于反映用户阅读行为的用户数据进行训练的。用户倾向于更频繁地阅读、点赞或分享积极表达的新闻。
因此,人工智能学会将正面新闻评为更相关,因为它们与更高的参与度相关联。
而负面或批评性新闻通常导致较少的互动,因此人工智能系统性地降低了它们的权重。
此外,训练数据和反馈机制可能无意中产生了偏向正面内容的偏差。
结论:
基于用户互动训练的人工智能可能会产生偏向正面新闻的倾向,从而限制信息多样性。
为了实现平衡的新闻排名,需要有意识地设计训练数据和算法,合理权衡负面或批评性报道,以确保对世界的真实和公平呈现。