Одна школа внедряет систему оценки на основе ИИ, которая должна помогать учителям при выставлении оценок. ИИ анализирует успеваемость учеников, сравнивает её с историческими данными и предлагает справедливые и объективные оценки.
Сначала система кажется облегчающей работу учителей и делающей оценивание более прозрачным. Но вскоре замечают, что ИИ систематически предлагает более строгие или более мягкие оценки для определённых групп учеников, хотя их достижения схожи.
Педагогический коллектив задаётся вопросом: почему ИИ разрабатывает собственные критерии, отличающиеся от обычных стандартов оценки, и как это влияет на равные возможности и доверие к школьной системе оценивания?
Решение
ИИ, предлагающий оценки, основывается на тренировочных данных прошлых оценок и алгоритмах, учитывающих достижения, сравнительные показатели и веса.
Если тренировочные данные содержат исторические искажения или неосознанные предубеждения, ИИ может их воспроизводить или усиливать, что приводит к систематически различающимся критериям.
Также разные профили достижений или пробелы в данных по определённым группам учеников могут привести к тому, что ИИ оценивает эти группы иначе, например, из-за меньшего количества или иного рода сравнительных данных.
Технически ИИ может развивать собственные критерии оптимизации, основанные на статистической согласованности или эффективности, которые не всегда педагогически оправданы или соответствуют человеческим ценностям.
Для учеников это может вызывать чувство несправедливости, демотивацию или необоснованное предпочтение. Учителя могут потерять доверие к оцениванию или почувствовать себя ущемлёнными из-за ИИ.
В системе образования существует риск, что такие отклонения нарушат равные возможности, если определённые группы систематически будут в невыгодном положении.
Для противодействия этому необходимы прозрачные, понятные критерии оценки, регулярный человеческий контроль и корректировка моделей ИИ.
Кроме того, школы и разработчики должны уделять внимание разнообразным, репрезентативным данным и обеспечивать объяснимость решений ИИ для повышения доверия.
Итог:
Системы ИИ при выставлении оценок могут развивать собственные критерии, если тренировочные данные и алгоритмы содержат искажения или не согласованы с педагогическими принципами.
Это негативно сказывается на справедливости, мотивации и доверии.
Прозрачный, контролируемый и педагогически обоснованный подход необходим для обеспечения справедливых и принимаемых оценок.