Для умного города, который заставляет голоса замолкать
Городская администрация внедряет систему на базе ИИ, которая автоматически анализирует и приоритизирует обращения граждан, чтобы сделать управление более эффективным.
ИИ оценивает входящие сообщения, жалобы и предложения из социальных сетей и официальных каналов и решает, какие обращения обрабатывать немедленно, а какие откладывать.
Со временем активисты и жители замечают, что определённые темы и голоса почти не учитываются, а их обращения теряются в потоке автоматизированной приоритизации.
Городская администрация задаётся вопросом: почему ИИ приводит к тому, что некоторые голоса граждан практически не слышны, и какие проблемы возникают из-за такой автоматической фильтрации участия граждан?
Вопрос: Какие причины могут приводить к тому, что система ИИ в умном городе неравномерно обрабатывает обращения граждан и эффективно заставляет некоторые голоса замолкать, и каковы последствия этого для демократического участия и доверия к цифровым системам управления?
Решение будет завтра.
Решение
Системы ИИ для приоритизации обращений граждан основаны на обучающих данных, отражающих прошлые решения и модели коммуникации.
Если эти данные содержат социально неравное участие или систематическое пренебрежение определёнными группами, ИИ учится воспроизводить эти модели и тем самым усиливает существующее неравенство.
Кроме того, ИИ может отдавать предпочтение темам, которые встречаются чаще, звучат громче или формулируются более формально, в то время как тихие, критические или маргинализированные голоса остаются недостаточно представленными.
Автоматизированные фильтры и приоритизации уменьшают разнообразие учёта и могут пропускать или задерживать важные обращения.
Это приводит к искажению участия граждан, снижает ощущение влияния и может подорвать доверие к цифровым административным процессам.
Технически сложно разработать справедливые, прозрачные и инклюзивные системы приоритизации, которые способствуют разнообразию и справедливости.
Необходимы человеческая проверка, участие в разработке критериев и регулярный контроль на наличие искажений для сохранения демократических принципов.
Итог: Автоматизированная приоритизация обращений граждан с помощью ИИ может усиливать существующее неравенство и маргинализировать голоса. Это ставит под угрозу демократическое участие и доверие к цифровому управлению. Только сознательное проектирование, прозрачность и человеческий контроль позволяют создавать справедливые и инклюзивные умные города.