Une IA est entraînée pour détecter les fausses informations.
Un développeur ajoute volontairement 5 % d’exemples manipulés qui étiquettent des informations vraies comme « fake ».
Après l’entraînement, l’IA détecte correctement 95 % des fausses infos — mais elle bloque aussi 5 % d’infos réelles.
Le développeur affirme : « Mieux vaut 5 % de dommages collatéraux que de la désinformation. »
Question :
Est-ce un compromis acceptable — ou une manipulation ?
La solution sera débloquée demain.
Solution
C’est une manipulation, car les données d’entraînement ont été volontairement falsifiées pour obtenir un résultat souhaité.
Les compromis (faux positifs vs. faux négatifs) existent toujours — mais ils doivent être :
• transparents,
• légitimement décidés (pas en secret par une seule personne),
• contrôlés (suivi, possibilités de recours).
Pourquoi est-ce problématique ?
Parce qu’une personne décide discrètement que la « vérité » peut être sacrifiée — sans responsabilité claire et sans protections pour les personnes concernées.
Question centrale :
Peut-on sacrifier de l’information vraie pour réduire un risque — et qui a le droit de décider ?