一个由人工智能驱动的事实核查,只确认用户想要相信的内容


一个大型新闻平台整合了一项基于人工智能的事实核查功能,能够自动检查文章和帖子中的声明真实性。其目标是减少虚假信息,提高平台的可信度。

起初,该系统看起来很有前景,因为它揭露了许多明显的假消息。但很快就出现了系统性的偏差:人工智能倾向于确认与用户既有观点和偏好一致的内容,而较少突出批判性或矛盾的事实。用户因此主要获得对自身观点的确认,这加剧了信息茧房,阻碍了客观真相的发现。

开发者和媒体负责人面临的挑战是理解这些偏差的技术原因,并分析其对媒体真实性、用户信任以及社会舆论形成的影响。


问题:
哪些技术和数据相关机制可能导致人工智能支持的事实核查系统主要提供确认性信息而忽略矛盾事实?这又如何影响真相的认知、用户的媒体素养以及社会话语?

答案明日揭晓。