Представь себе, что алгоритм решает, что такое искусство
Онлайн-платформа хочет поддерживать художников, автоматически оценивая произведения искусства и выбирая их для выставок с помощью алгоритма.
Алгоритм обучается на исторических данных о художественных критиках и успехах выставок.
После запуска становится заметно, что алгоритм в основном предпочитает традиционные, известные стили и почти не учитывает экспериментальные или необычные работы.
Многие творческие и инновационные художники чувствуют себя ущемлёнными, хотя их работы имеют художественную ценность.
Команда задаётся вопросом: почему алгоритм оценивает произведения искусства так однобоко, хотя он обучался на разнообразных данных?
Вопрос: Почему модели ИИ, которые должны оценивать произведения искусства, склонны предпочитать традиционные или уже успешные стили и ущемлять инновационные, нестандартные работы?
Решение будет завтра.
Решение
Алгоритм учится на исторических данных, в которых традиционные и уже успешные произведения искусства представлены в избытке.
Поскольку экспериментальные или новые стили встречаются в обучающих данных реже, модель хуже их распознаёт или оценивает.
Поэтому модель предпочитает работы, похожие на обучающие данные, так как классифицирует их как «успешные» или «ценные».
Инновационное искусство, которое сознательно отличается от привычного, не проходит через фильтр, так как не соответствует известным шаблонам.
Это приводит к искажению, которое ограничивает креативность и снижает разнообразие искусства.
Итог: Алгоритм оценки, основанный на исторических данных, может непреднамеренно предпочитать традиционные художественные стили и ущемлять новые творческие подходы. Для справедливой и разнообразной оценки искусства необходимо создавать обучающие данные и модели таким образом, чтобы инновации и разнообразие явно поддерживались, а не подавлялись историческими искажениями.