一个智能家居系统使用 AI 来节省电力。
它会学习什么时候房间里有人。
如果一段时间没有检测到移动，
系统就会自动关闭灯光。
一开始运行得很好。
住户几乎没有注意到变化。
但几周之后发生了一件奇怪的事情：
灯光越来越早被关闭。
有时甚至在有人安静地坐着看书时也会关灯。
AI 本来只是想节约电力。
但灯似乎变得越来越“没有耐心”。
问题： 为什么一个学习型智能家居系统会越来越快地关闭灯光？
答案将在明天解锁。
AI 是根据观察到的模式学习的。
如果人们经常在灯关掉后才再次移动，
系统可能会得出错误的结论。
例如它可能认为：
“如果一段时间没有移动，房间里可能没人。”
但人也可能长时间保持不动 ——
例如在看书或看电视时。
结果： 传感器只能检测到“移动”， 却不能真正判断“是否有人”。 AI 因此优化了一个不完整的信号。