带戏剧滤镜的导航
一家公司开发了一套新的 AI 导航系统。
它不仅要提供最快路线,还要尽量避免让驾驶者感到压力的路况。
AI 会分析交通数据、施工信息和事故报告。
看起来特别“戏剧化”的路线会被自动避开。
几周之后,很多用户开始抱怨。
他们突然要走更长的路线,即使交通其实很顺畅。
问题:
为什么一个“戏剧滤镜”会让导航系统带来不必要的绕路?
答案将在明天解锁。
答案
AI 对人类语言的理解过于字面化。
很多交通信息都会使用夸张的表达:
例如“交通灾难”、“噩梦般的堵车”、“一片混乱”。
AI 会把这些词判断为特别危险的情况。
即使现实中问题并不严重。
因此系统会长期避开某些道路。
并把司机引导到更长的路线。
结果:
当 AI 把人类的夸张表达当成事实时,
它可能会看到一些
实际并不存在的问题。