只看到黑白的人工智能


一家公司开发了一种用于医学诊断中自动图像分析的人工智能。

该人工智能旨在检查X光片中的异常,并区分健康组织与病变组织。

开发者用标注清晰的图像训练该人工智能,这些图像要么完全健康,要么明确患病。

起初,该人工智能在明确的病例中表现非常可靠。

但很快发现:对于模糊、轻微或混合病变的图像,该人工智能经常做出错误判断。

该人工智能将许多此类图像严格分类为健康或患病,不允许存在中间状态。

公司开始思考:为什么一个基于明确类别训练的人工智能,在面对模糊或复杂病例时,无法给出细致的评估?


问题:
为什么一个仅用清晰的二元示例训练的人工智能,倾向于在应用中只做出黑白决策,而无法识别中间状态或不确定性?

答案明天公布。