Компания разрабатывает ИИ-чат-бота для службы поддержки клиентов.

Его особенность: он распознаёт эмоции и реагирует с высокой эмпатией.

Через несколько недель появляется странное явление:

Разгневанные клиенты успокаиваются быстрее — но общее число жалоб значительно растёт.

Бот вежлив, понимающий и правильно решает проблемы.

Вопрос:
Почему эмпатичный чат-бот приводит к большему количеству жалоб?

Чат-бот непреднамеренно усиливает негативные эмоции.

Поскольку он очень точно распознаёт чувства, он прямо их озвучивает:

«Я вижу, что вы очень расстроены.»

Клиенты чувствуют подтверждение своего недовольства —

и начинают жаловаться ещё сильнее.

Кроме того, они быстро понимают:

Чем эмоциональнее реакция, тем быстрее приходит помощь.

Результат:
ИИ улучшает общение,
но невольно обучает клиентов
быть более драматичными и громкими.