Платформы социальных медиа всё чаще используют фильтры на основе ИИ для оценки, приоритизации или подавления контента. Эти алгоритмы призваны сдерживать дезинформацию и улучшать качество информационных потоков.
Однако пользователи замечают, что некоторые публикации, несмотря на фактическую достоверность, показываются реже или полностью скрываются, в то время как другие спорные или поляризующие материалы становятся вирусными.
Команда платформы задаётся вопросом: какие механизмы приводят к тому, что алгоритмы модерации на основе ИИ непреднамеренно ущемляют правдивую информацию и как эта невидимая цензура влияет на формирование общественного мнения и доверие к СМИ?
Решение
Алгоритмы модерации на основе ИИ обучаются на данных, которые должны распознавать определённые шаблоны дезинформации, речей ненависти или спама. Контент оценивается с помощью процедур скоринга, учитывающих такие факторы, как язык, доверие к источнику или реакции пользователей.
Проблема возникает, когда алгоритмы из-за неполных или искажённых обучающих данных классифицируют правдивую, но необычную или сложную информацию как потенциально проблематичную.
Автоматические фильтры также могут ущемлять контент, который не вписывается в общепринятый нарратив или является политически чувствительным, даже если он фактически корректен.
Отсутствие прозрачности механизмов фильтрации затрудняет пользователям понимание причин ограниченной видимости, что ослабляет доверие к платформам и медиа-среде.
В социальном плане эта невидимая цензура приводит к искажённой информационной ситуации, в которой определённые истины становятся менее заметными, а общественные дебаты односторонне влияют.
С технической точки зрения задача состоит в том, чтобы создавать алгоритмы, способные различать вредоносную дезинформацию и легитимную, пусть и спорную, правду.
Необходима комбинация человеческого контроля, прозрачных критериев и обратной связи от пользователей для обеспечения сбалансированной модерации.
Кроме того, платформы должны раскрывать, как работают фильтры, чтобы укреплять доверие общества и защищать демократические процессы коммуникации.
Итог:
Алгоритмы могут непреднамеренно фильтровать или подавлять правдивый контент при отсутствии качественных обучающих данных, механизмов оценки и прозрачности.
Эта невидимая цензура негативно влияет на медийную правду и демократическое формирование мнений.
Прозрачная, партисипативная и технически дифференцированная модерация необходима для сохранения доверия к социальным медиа и общественной коммуникации.