L'algorithme qui n'aimait que les bonnes nouvelles
Une plateforme d'actualités développe une IA qui doit automatiquement classer les articles d'actualité selon leur pertinence pour les lecteurs.
L'IA est entraînée à reconnaître les articles contenant des informations importantes et des événements actuels, et à les afficher de manière proéminente.
Après le lancement, les rédacteurs remarquent que l'IA privilégie presque exclusivement les nouvelles positives ou optimistes et écarte largement les rapports négatifs ou critiques.
L'équipe se demande : pourquoi l'IA montre-t-elle une forte tendance à ne mettre en avant que les bonnes nouvelles, alors qu'elle a été entraînée à une évaluation neutre ?
Question : Pourquoi une IA chargée de classer les actualités par pertinence peut-elle avoir tendance à favoriser les nouvelles positives et à négliger systématiquement les informations négatives ?
Solution à venir demain.
Solution
L'IA a été entraînée avec des données utilisateur reflétant le comportement de lecture. Les utilisateurs ont tendance à lire, aimer ou partager plus fréquemment les nouvelles formulées positivement.
Par conséquent, l'IA apprend à classer les nouvelles positives comme plus pertinentes, car elles corrèlent avec un engagement plus élevé.
En revanche, les nouvelles négatives ou critiques entraînent souvent moins d'interactions, ce qui conduit l'IA à les dévaloriser systématiquement.
De plus, les données d'entraînement et les mécanismes de retour peuvent inconsciemment créer un biais en faveur des contenus positifs.
Résultat : Une IA entraînée sur les interactions des utilisateurs peut développer un biais en faveur des nouvelles positives, limitant ainsi la diversité de l'information. Pour des classements d'actualités équilibrés, il est nécessaire de concevoir consciemment des données d'entraînement et des algorithmes qui pondèrent également les rapports négatifs ou critiques, afin d'assurer une représentation réaliste et équitable du monde.