Городская администрация внедряет систему на основе ИИ, которая с помощью данных с датчиков и моделей поведения должна улучшить безопасность и порядок в общественных местах.
ИИ анализирует профили передвижения и автоматически сообщает о подозрительных лицах или группах властям.
Со временем жители замечают, что определённые группы населения непропорционально часто помечаются как подозрительные, хотя объективных инцидентов нет.
Команда задаётся вопросом: почему ИИ умного города демонстрирует сильную тенденцию систематически отслеживать и сообщать о некоторых людях, хотя должен быть нейтральным и объективным?
Вопрос: Почему система ИИ для наблюдения за общественными пространствами может непреднамеренно дискриминировать социальные или этнические группы и как возникает это искажение несмотря на нейтральное программирование?
Решение будет завтра.
Решение
Система ИИ обучается на исторических данных, которые отражают реальные модели наблюдения и инциденты.
Если эти данные из-за прошлых предубеждений или полицейской практики чаще помечают социальные или этнические группы как подозрительные, ИИ учится воспроизводить эти шаблоны.
ИИ не понимает контекст или причины, а лишь анализирует статистическую частоту, что усиливает существующее социальное неравенство.
Это искажение возникает из-за базы данных, а не из-за сознательного программирования ИИ.
Вывод: Система наблюдения, обученная на исторических и некритически принятых данных, может непреднамеренно усиливать дискриминационные шаблоны и систематически ущемлять определённые группы. Для создания справедливых и честных умных городов необходимо тщательно проверять, диверсифицировать обучающие данные и дополнять их этическими нормами, чтобы ИИ не перенимал предубеждения и равноправно относился ко всем гражданам.