一所学校测试一套 AI 系统，用来自动批改作业。
目的是为老师节省时间，同时促进学生学习。
AI 不仅分析答案是否正确，
还会分析学生的解题过程和表达方式。
几周之后，老师们发现了一件奇怪的事情：
有些学生总是得到很高的评价。
但他们的解题方式其实并不特别有创意。
而一些提出新颖想法的学生却得到较低的评分，
尽管他们的结果有时甚至更好。
问题： 为什么一个批改作业的 AI，反而可能不利于创造性的解法？
答案将在明天解锁。
这个 AI 是用大量“典型答案”的例子训练的。
因此，它特别容易识别那些
与已知模式非常相似的答案。
不寻常或创造性的解题方式
在系统看来可能像是错误。
人类老师能够看出其中的创意。
而 AI 主要评估的是与训练数据的相似度。
结果： 如果 AI 主要识别熟悉的模式， 它往往会奖励普通答案 —— 而忽略真正有创意的想法。