只喜欢最后部分的人工智能
一家公司开发了一种人工智能,旨在自动分析客户对话,以识别最重要的问题并为支持设置优先级。
该人工智能被训练从冗长的对话记录中提取最相关的信息。
使用后发现,该人工智能几乎只对对话中的最后陈述作出反应,常常忽略之前的重要提示。
支持团队感到疑惑:为什么人工智能如此专注于对话的结尾,而忽视了之前一些关键的信息?
问题:
为什么分析对话记录的人工智能倾向于主要关注对话的最后部分,而忽视之前的重要内容?
答案明天揭晓。
答案
许多用于文本分析的人工智能模型,尤其是带有序列模型如RNN或简单Transformer架构的模型,倾向于更重视序列末尾的信息。
这是因为后续的标记通常对最终表示有更大影响,早期信息在每一层处理后会逐渐“淡化”或被覆盖。
如果没有诸如带有长期记忆的注意力机制或上下文敏感加权等特殊机制,重要的早期对话部分会失去其重要性。
因此,人工智能无意识地主要关注最后一部分,这部分通常被认为特别重要,而忽视了开头或中间的关键提示。
结论:
分析对话的人工智能必须设计成能够考虑整个对话的上下文,而不仅仅关注结尾。
需要专门训练的模型和具有有效上下文整合的架构,以确保早期的重要信息也能被适当识别和权衡。