一家公司开发了一种自动汇总产品评价的人工智能。
该人工智能通过将新评价与已有评价进行比较,快速得出总体评分。
起初效果很好,因为它能发现模式并对评价进行分类。
但很快发现:该人工智能总是将新的、独特的或特殊的观点评为不那么重要甚至错误。
与以往评价不同的异常评价被大幅贬低或忽视。
公司开始思考:为什么基于比较的人工智能无法适当考虑新的或不同的观点?
问题:为什么基于与已有数据比较训练的人工智能倾向于忽视或错误评估异常或新颖的评价?
答案明天揭晓。
该人工智能被训练通过与已有评价的相似性来评估和分类新评价。
因此它学会了将与既定模式差异较大的评价视为异常值或错误。
异常或新的视角被评为不太可能或不太相关,因为它们不符合已有数据。
这种偏差源于基于比较和模式识别的训练原则,未明确为创新或差异留出空间。
结论:总是仅与已知事物比较的人工智能,无法适当认可新的或不同的观点。为了全面公正的评价,这类系统必须学会识别异常视角的潜在价值,而非自动贬低。