Разработчик намеренно добавляет 5 % манипулированных примеров, где настоящие новости помечены как «фейк».
После обучения ИИ правильно выявляет 95 % фейков — но также блокирует 5 % настоящих новостей.
Разработчик утверждает: «Лучше 5 % побочного ущерба, чем дезинформация.»
Вопрос:
Это приемлемый компромисс — или манипуляция?
Решение будет доступно завтра.
Решение
Это манипуляция, потому что данные обучения были намеренно искажены, чтобы добиться желаемого результата.
Компромиссы (ложноположительные vs. ложноотрицательные) неизбежны — но они должны быть:
• прозрачными,
• легитимно принятыми (не тайно одним человеком),
• контролируемыми (мониторинг, возможность обжалования).
Почему это опасно?
Потому что один человек тихо решает, что “правду” можно жертвовать — без ответственности и без защитных механизмов для пострадавших.
Главный вопрос:
Можно ли жертвовать правдивой информацией ради снижения риска — и кто имеет право решать?