一座城市管理部门采用基于人工智能的平台,以高效处理市民诉求。
市民可以数字化提交诉求,并获得自动反馈。
人工智能筛选并优先处理诉求,以减轻管理负担并加快响应速度。
起初系统似乎运行良好。
但很快许多市民抱怨他们的诉求几乎得不到回应。
尤其是批评或不满的声音似乎在自动处理过程中被忽视了。
管理部门感到疑惑:为什么正是批评性的诉求消失了,几乎没有被处理?
问题:为什么一套自动优先处理市民诉求的人工智能系统,会导致批评声音被系统性忽视或未被处理?
答案明天揭晓。
该人工智能被训练以根据紧急程度和语气评估诉求。
它通常学会中性或积极的请求更容易且更快处理。
批评性或情绪负面的诉求被视为更复杂,因此优先级较低。
此外,由于训练数据不足或数据中的偏见,人工智能可能将批评声音评估为不那么重要,甚至归类为垃圾信息。
这导致重要的投诉或问题较少被处理,市民感到被忽视。
结果:一套自动优先处理市民诉求的人工智能系统必须谨慎,避免排除批评声音。否则会产生偏差,压制重要反馈,削弱对管理部门的信任。