Система безопасности использует ИИ, чтобы распознавать лица на изображениях с камер.

Она должна автоматически сообщать, когда появляется человек.

Во многих ситуациях система работает очень надёжно.

Она часто замечает посетителей быстрее, чем человек-наблюдатель.

Но затем начинают появляться странные ложные тревоги:

ИИ вдруг «видит» лицо на стене дома, в облаке или на подушке.

Хотя на самом деле там, конечно, никого не было.

Почему же она внезапно начинает видеть лица повсюду?

Вопрос:
Почему ИИ для изображений может распознавать узоры как лица, даже когда людей там нет?

ИИ ищет типичные признаки лица.

Даже две тёмные точки и подходящая форма под ними

могут показаться системе глазами и ртом.

Люди тоже знают этот эффект:

мы иногда видим лица в розетках, облаках или автомобилях.

ИИ реагирует похожим образом,

только на основе математического распознавания шаблонов.

Итог:
Если система обучена искать определённые шаблоны,
она иногда находит их даже там,
где их на самом деле нет.