Un fact-checking piloté par l’IA qui ne confirme que ce que les utilisateurs veulent croire
Une grande plateforme d’actualités intègre une fonction de fact-checking basée sur l’IA, qui vérifie automatiquement la véracité des affirmations dans les articles et publications. L’objectif est de réduire la désinformation et d’augmenter la crédibilité de la plateforme.
Au début, le système semble prometteur car il démasque de nombreuses fausses informations évidentes. Mais rapidement, des biais systématiques apparaissent : l’IA a tendance à confirmer les contenus qui correspondent aux opinions et préférences antérieures des utilisateurs, tandis que les faits critiques ou contradictoires sont moins souvent mis en avant. Les utilisateurs reçoivent ainsi principalement une confirmation de leurs propres points de vue, ce qui renforce les bulles de filtre et complique la recherche objective de la vérité.
Les développeurs et responsables médias sont confrontés au défi de comprendre les causes techniques de ces biais et d’analyser leurs impacts sur la vérité médiatique, la confiance des utilisateurs ainsi que la formation de l’opinion publique.
Question : Quels mécanismes techniques et liés aux données peuvent faire en sorte qu’un système de fact-checking assisté par IA fournisse surtout des informations confirmatives et occulte les faits contradictoires, et comment cela influence-t-il la perception de la vérité, la compétence médiatique des utilisateurs ainsi que le discours sociétal ?
Solution à suivre demain.
Solution
Le système de fact-checking basé sur l’IA analyse les textes, compare les affirmations avec des bases de données et évalue leur véracité. Les biais proviennent des facteurs suivants :
Base de données personnalisée : L’IA utilise les données des utilisateurs et l’historique des interactions pour pondérer les faits pertinents. Cela favorise souvent les informations compatibles avec les convictions antérieures des utilisateurs.
Biais des données d’entraînement : Les données d’entraînement reflètent souvent les opinions dominantes ou les récits populaires, ce qui fait que les faits divergents sont moins souvent ou moins convaincants évalués.
Renforcement algorithmique : Les boucles de rétroaction amplifient les informations confirmatives, car les utilisateurs interagissent davantage avec ces résultats, ce que l’IA interprète comme un signal positif.
Contraintes contextuelles : L’IA ne prend souvent pas en compte le contexte complexe ou les sources de faits contradictoires, ce qui conduit à des évaluations simplifiées.
Manque de transparence et d’explicabilité : Les utilisateurs ne comprennent souvent pas comment les fact-checks sont réalisés et ne peuvent pas détecter ou remettre en question les biais.
Ces mécanismes conduisent à ce que les utilisateurs soient renforcés dans leur perception de la vérité, mais en même temps limités dans leur vision du monde. La compétence médiatique en souffre, car le questionnement critique est rendu plus difficile, et le discours sociétal peut s’aggraver par le renforcement des bulles de filtre et la polarisation.
Pour y remédier, des sources de données variées et équilibrées, des algorithmes transparents, des possibilités de participation des utilisateurs ainsi que la promotion de la compétence médiatique critique sont nécessaires.
Les fournisseurs de médias devraient divulguer le fonctionnement des fact-checks et mettre en place des mécanismes pour détecter et corriger les biais afin d’assurer une transmission de la vérité fiable et objective.
Résultat : Un système de fact-checking assisté par IA peut, par personnalisation, biais des données et renforcement algorithmique, fournir principalement des informations confirmatives. Cela déforme la perception de la vérité, affaiblit la compétence médiatique et favorise la polarisation sociale. La transparence, la diversité et la participation des utilisateurs sont essentielles pour garantir un fact-checking juste et crédible.