Pourquoi un filtre d’actualités ne montre plus que l’extrême
Une grande plateforme d’actualités met en place un filtre assisté par IA qui personnalise et priorise les contenus d’actualités pour les utilisateurs. L’objectif est de mettre en avant des informations pertinentes et intéressantes afin d’augmenter l’engagement des utilisateurs.
Après un certain temps, les rédactrices et les utilisateurs constatent que le filtre privilégie surtout les actualités extrêmes, polarisantes et chargées émotionnellement, tandis que les reportages équilibrés et factuels sont moins souvent affichés. Cela crée une image déformée des événements actuels, qui influence la perception publique et le discours sociétal.
L’équipe de développement est confrontée au défi de comprendre les causes techniques et liées aux données de cette sélection unilatérale et d’évaluer les conséquences sur la vérité médiatique, la confiance des utilisateurs ainsi que la formation de l’opinion politique.
Question : Quels mécanismes peuvent faire en sorte qu’un filtre d’actualités basé sur l’IA privilégie des contenus extrêmes et polarisants, et comment ces biais affectent-ils la perception de la vérité, la compétence médiatique des utilisateurs et la cohésion sociale ?
Solution à suivre demain.
Solution
Le filtre d’actualités basé sur l’IA analyse les données des utilisateurs, les modèles d’interaction et les caractéristiques des contenus pour sélectionner des actualités personnalisées. La préférence pour les contenus extrêmes peut s’expliquer par les facteurs suivants :
Optimisation de l’engagement : L’IA est souvent entraînée à prioriser les contenus générant une forte interaction des utilisateurs (clics, commentaires, partages). Les actualités polarisantes et émotionnelles attirent plus d’attention que les reportages factuels.
Biais des données : Les données d’entraînement reflètent souvent les préférences déjà existantes des utilisateurs pour les contenus extrêmes, ce qui renforce encore la sélection.
Amplification algorithmique : Les boucles de rétroaction font que l’IA privilégie des contenus extrêmes similaires pour maintenir un haut niveau d’engagement, favorisant ainsi les bulles de filtre et les chambres d’écho.
Manque de diversité des sources : Si le filtre privilégie peu de sources ou des sources unilatérales, une image déformée des actualités se crée.
Manque de transparence : Les utilisateurs ne comprennent souvent pas comment la sélection est effectuée ni comment ils peuvent influencer ce choix.
Ces mécanismes conduisent les utilisateurs à recevoir une image déformée et émotionnellement exagérée de la réalité, ce qui nuit à la perception de la vérité et complique la compétence médiatique.
Au niveau sociétal, cela peut entraîner polarisation, perte de confiance dans les médias et dialogue difficile, mettant en danger la cohésion sociale.
Pour améliorer la situation, il est important d’avoir des sources de données variées et équilibrées, des algorithmes transparents, un contrôle utilisateur et la promotion de l’éducation aux médias.
Les organisations médiatiques devraient révéler le fonctionnement des filtres IA et proposer des mécanismes de contrôle et de correction des biais.
Résultat : Les filtres d’actualités basés sur l’IA peuvent privilégier les contenus extrêmes à cause de l’optimisation de l’engagement et des biais des données. Cela déforme la perception de la vérité, affaiblit la compétence médiatique et favorise la polarisation sociale. La transparence, la diversité et le contrôle utilisateur sont essentiels pour garantir une information équilibrée et digne de confiance.