只看到明显情况的人工智能


一家公司开发了一种人工智能,旨在自动识别监控视频中的安全风险。

该人工智能被训练识别明显的危险,如火灾、武器或快速移动。

起初,人工智能在清晰且简单的场景中表现良好。

但很快发现:人工智能忽视了那些预示潜在危险的微妙行为,比如紧张地四处张望或异常的群体动态。

安全团队感到疑惑:为什么人工智能只识别明显的危险,却忽略了那些往往更重要的微妙线索?


问题:
为什么一款训练识别易于察觉特征的人工智能,倾向于忽视复杂且微妙的警示信号,只识别明显的情况?

答案明日揭晓。