为了将风险降到最低，该人工智能被编程为只有在非常确定时才做出诊断，否则不提供任何建议。

在实际运行中，即使在明确的病例中，该人工智能也经常不做出诊断，因为它宁愿等待也不愿犯错。

医务人员疑惑：为什么这款人工智能很少做出决策，尽管它本应提供帮助？

问题：
为什么一个过度优化以避免错误的人工智能，往往倾向于几乎不做诊断，从而限制了其效用？

如果人工智能被过度谨慎地编程以避免错误决策，它倾向于只有在非常高的确信度下才会做出诊断。

这导致它在许多情况下不做决策，即使有可能做出有根据的判断。

这种行为源于在训练或决策过程中对错误成本的高度重视，使模型设定了非常高的诊断阈值。

因此，人工智能的效用受到限制，因为它无法为许多患者提供支持，医务人员必须承担更多工作。

结论：
过于谨慎的人工智能由于其保守性可能降低实际效用并延迟重要决策。
对于医疗辅助系统来说，找到谨慎与决断之间的平衡至关重要，以既能最小化错误，又能提供有用的诊断。