Городская администрация внедряет систему ИИ, которая должна оптимизировать городские процессы принятия решений — от управления движением до разрешений на строительство и социальных программ поддержки.
ИИ запрограммирован принимать решения максимально эффективно и справедливо, анализируя данные из разных областей и генерируя предложения.
Однако в работе сотрудники замечают, что ИИ часто откладывает многие решения или помещает их в очередь ожидания, вместо того чтобы принимать их своевременно.
Команда задаётся вопросом: почему автоматизация и оптимизация с помощью ИИ приводят к задержкам или отсутствию принятия решений, хотя процессы должны были бы ускориться?
Решение
Системы ИИ, автоматизирующие сложные городские решения, должны учитывать разнообразные и часто противоречивые цели, такие как эффективность, справедливость, правовая безопасность и общественное принятие.
Чтобы избежать рисков и ошибок, такие системы часто включают оценки неопределённости и анализ рисков, которые при неясных или конфликтных данных приводят к осторожности и, следовательно, к задержкам.
ИИ может откладывать решения, если данные недостаточны или если несколько вариантов действий оцениваются примерно одинаково, чтобы избежать ошибок.
Эти задержки являются побочным эффектом оптимизации, так как система стремится минимизировать риски и обеспечить максимальную безопасность.
Кроме того, бюрократические требования и правовые рамки усложняют автоматическое принятие решений, что дополнительно заставляет ИИ вести себя консервативно.
Технически сложность принятия решений и вовлечение множества заинтересованных сторон приводят к тому, что ИИ попадает в очереди ожидания, чтобы дождаться человеческого контроля или дополнительных данных.
В результате возникает парадоксальная ситуация, когда автоматизация приводит не к ускорению, а к задержкам.
Итог:
Автоматизация сложных городских решений с помощью ИИ может приводить к задержкам, поскольку система стремится минимизировать неопределённости и риски.
Противоречивые цели, правовые требования и неясные данные затрудняют быстрое принятие решений.
Это показывает, что в чувствительных областях необходимо сбалансированное взаимодействие поддержки ИИ и человеческого контроля для обеспечения эффективности и надёжности.