Городская администрация использует платформу на базе ИИ для эффективной обработки обращений граждан.
Граждане могут подавать свои обращения в цифровом виде и получать автоматические ответы.
ИИ фильтрует и приоритизирует обращения, чтобы разгрузить администрацию и ускорить реакцию.
Сначала система кажется работающей хорошо.
Но вскоре многие граждане жалуются, что их обращения почти не получают ответов.
Особенно критические или недовольные голоса, похоже, теряются в автоматической обработке.
Администрация удивляется: почему именно критические обращения исчезают и почти не обрабатываются?
Вопрос: Почему ИИ, который автоматически приоритизирует обращения граждан, может привести к систематическому игнорированию или необработке критических голосов?
Решение будет завтра.
Решение
ИИ был обучен оценивать обращения по срочности и тональности.
При этом он часто учится, что нейтральные или позитивные запросы проще и быстрее обрабатывать.
Критические или эмоционально негативные обращения считаются более сложными и поэтому имеют более низкий приоритет.
Кроме того, из-за недостаточных обучающих данных или предвзятости в данных ИИ может считать критические голоса менее значимыми или даже классифицировать их как спам.
Это приводит к тому, что важные жалобы или проблемы реже обрабатываются, и граждане чувствуют себя игнорируемыми.
Итог: ИИ, который автоматически приоритизирует обращения граждан, должен тщательно следить за тем, чтобы не исключать критические голоса. Иначе возникает искажение, которое подавляет важные отзывы и ослабляет доверие к администрации.