Компания использует ИИ для автоматического краткого изложения внутренних отчётов.

Он должен помогать руководству быстрее видеть самую важную информацию.

ИИ сортирует отчёты по важности, срочности и предполагаемому влиянию.

Отчёты с позитивной динамикой обычно оказываются наверху.

Но через несколько месяцев становится заметно странное:

Отчёты звучат оптимистично — но в реальности кризисов становится больше.

Вопрос:
Почему ИИ, который эффективно сортирует отчёты, может сделать плохие новости невидимыми?

ИИ учится на поведении тех, кто принимает решения.

Если руководители чаще открывают позитивные отчёты,

ИИ автоматически начинает считать их более важными.

Негативные сообщения не удаляются,

но опускаются всё ниже и ниже.

Так возникает опасный эффект:

ИИ показывает прежде всего то, что приятно видеть —

а не обязательно то, что действительно важно.

Итог:
Когда ИИ оптимизирует внимание,
он может оттеснять плохие новости —
даже если именно они самые срочные.