为什么事实核查中的人工智能会编造自己的故事


一个新闻门户整合了一款基于人工智能的事实核查软件,该软件能够自动核实文章、帖子和声明的真实性。该人工智能旨在帮助编辑更快地识别和纠正错误信息。

起初,系统提供了有用的提示,节省了大量时间。但编辑们很快发现,人工智能有时不仅将某些声明判定为错误,还会自主生成替代的“事实”或解释,而这些内容并没有可验证的来源支持。

团队面临的挑战是:哪些技术和数据相关的原因可能导致人工智能在自动事实核查时产生错误或虚构的信息?这对媒体的公信力、公众信任以及错误信息的传播有何影响?


问题:
哪些机制导致人工智能在事实核查中生成自身的、无依据的故事?这种行为如何影响真相的认知、新闻诚信以及媒体在打击错误信息中的角色?

答案明日公布。