Компания разрабатывает новую навигационную систему с ИИ.

Она должна не только показывать самый быстрый маршрут, но и избегать стрессовых ситуаций.

ИИ анализирует данные о трафике, дорожных работах и авариях.

Маршруты, которые кажутся особенно «драматичными», автоматически обходятся.

Через несколько недель многие пользователи начинают жаловаться.

Им приходится ехать значительно дольше, даже когда дороги свободны.

Вопрос:
Почему «драматический фильтр» в навигаторе приводит к лишним объездам?

ИИ слишком буквально интерпретирует человеческий язык.

Сообщения о дорожной ситуации часто используют драматические выражения:

«транспортный хаос», «кошмарная пробка», «полный беспорядок».

ИИ воспринимает такие слова как серьёзную опасность.

Даже если ситуация на самом деле безобидна.

Поэтому система начинает постоянно избегать некоторых дорог.

И отправляет водителей в более длинные объезды.

Итог:
Когда ИИ воспринимает человеческие преувеличения буквально,
он может видеть проблемы,
которых в реальности нет.