Город использует ИИ для прогнозирования вероятных мест преступлений.

Патрули чаще направляются именно в эти районы.

• В одних районах количество зарегистрированных правонарушений растёт.
• В других заметно снижается.

ИИ обучен в основном на исторических полицейских отчётах.

Однако больше проверок автоматически означает больше зарегистрированных нарушений.

Вопрос:
ИИ выявляет реальную преступность — или создаёт собственную статистику?

Возникает петля обратной связи.

Усиленное присутствие полиции приводит к росту зарегистрированных случаев, которые снова попадают в обучение модели.

ИИ измеряет не только преступность, но и интенсивность контроля.

Ключевая мысль:
Данные не нейтральны — они отражают прошлые решения.

Ответственность:
Планирование не должно опираться исключительно на самоусиливающиеся модели.