Компания разрабатывает ИИ, который автоматически должен выявлять риски безопасности на видеозаписях с наблюдения.
ИИ обучают распознавать очевидные опасности, такие как огонь, оружие или быстрые движения.
Сначала ИИ хорошо работает в ясных и простых сценариях.
Но вскоре замечают: ИИ пропускает тонкие поведенческие признаки, указывающие на надвигающуюся опасность, такие как нервные оглядывания или необычная групповая динамика.
Команда безопасности удивляется: почему ИИ распознаёт только очевидные опасности, игнорируя тонкие сигналы, которые часто важнее?
Вопрос: Почему ИИ, обученный на легко распознаваемых признаках, склонен не замечать сложные и тонкие предупреждающие сигналы и видеть только очевидное?
Решение будет завтра.
Решение
ИИ обучали на тренировочных данных, которые в основном показывали чёткие, однозначные опасности — то есть легко распознаваемые объекты или движения.
В результате он учится реагировать преимущественно на ярко выраженные, очевидные признаки и не распознаёт сложные или тонкие поведенческие модели.
Тонкие предупреждающие сигналы, такие как изменения в поведении или социальная динамика, труднее количественно оценить и они обычно недостаточно представлены или явно не обозначены в тренировочных данных.
Таким образом, у ИИ нет достаточных оснований для изучения этих сложных моделей или признания их значимыми.
Вывод: ИИ, обученный только на очевидных признаках, часто пропускает важные тонкие сигналы, которые критичны для раннего предупреждения об опасности. Для более эффективного выявления рисков необходимо расширять тренировочные данные и модели, чтобы адекватно учитывать и оценивать сложные поведенческие модели и контекстную информацию.