只看到明显情况的人工智能
一家公司开发了一种人工智能,旨在自动识别监控视频中的安全风险。
该人工智能被训练识别明显的危险,如火灾、武器或快速移动。
起初,人工智能在清晰且简单的场景中表现良好。
但很快发现:人工智能忽视了那些预示潜在危险的微妙行为,比如紧张地四处张望或异常的群体动态。
安全团队感到疑惑:为什么人工智能只识别明显的危险,却忽略了那些往往更重要的微妙线索?
问题:
为什么一款训练识别易于察觉特征的人工智能,倾向于忽视复杂且微妙的警示信号,只识别明显的情况?
答案明日揭晓。
答案
该人工智能使用的训练数据主要展示了清晰、明确的危险——即易于识别的物体或动作。
因此,它学会了主要响应明显且强烈的特征,而无法识别复杂或微妙的行为模式。
像行为变化或社会动态这样的微妙警示信号更难量化,且在训练数据中通常代表性不足或未被明确标注。
因此,人工智能缺乏足够的线索来学习这些复杂模式或将其视为相关信息。
结论:
只针对明显特征训练的人工智能,往往会忽视对早期危险预警至关重要的重要微妙线索。
为了更有效地识别风险,必须扩展训练数据和模型,以适当捕捉和评估复杂的行为模式及上下文信息。