一个天气应用使用 AI 来生成特别精准的预报。
它会分析卫星图像、气压、温度以及过去的天气模式。
一开始，很多用户都很惊讶。
这个 AI 比其他系统更早发现了几次雷暴。
但过了一段时间，人们注意到一个现象：
应用越来越频繁地发出下雨警报。
可很多时候实际上并没有下雨。
现在很多用户出门都会带伞，
尽管后来一整天都是大晴天。
问题： 为什么一个本来应该更精准的天气 AI，会越来越频繁地预测下雨？
答案将在明天解锁。
这个 AI 被优化成尽量不要漏掉任何降雨。
如果它宁愿多提醒一次，也不愿少提醒一次，
那么它也会对微弱或不确定的信号作出反应。
这样虽然能更早发现一些真正的天气变化，
但同时也会产生更多误报。
于是对用户来说，
就像这个 AI 在“夸大其词”。
结果： 如果一个系统想尽可能安全地发出预警， 通常就会产生更多误报 —— 因为谨慎和准确并不总是同一回事。