Un filtre d’actualités qui ne montre que la moitié de la vérité
Un grand portail d’actualités utilise un filtre basé sur l’IA qui analyse quotidiennement des millions d’articles, vidéos et publications sur les réseaux sociaux afin de présenter aux utilisateurs une sélection personnalisée de nouvelles. L’objectif est d’augmenter la pertinence et de protéger les utilisateurs contre la surcharge d’informations.
Avec le temps, plusieurs groupes d’utilisateurs remarquent qu’ils ne voient plus que certaines perspectives et sujets, tandis que d’autres informations importantes apparaissent peu ou plus du tout. La bulle de filtre se renforce, et les utilisateurs reçoivent des représentations biaisées ou incomplètes des événements actuels.
L’équipe de rédaction et les développeurs se demandent : quelles raisons techniques et liées aux données peuvent conduire un filtre d’actualités assisté par IA à ne montrer systématiquement qu’une partie de la vérité, et quelles conséquences cela a-t-il sur la formation de l’opinion publique, la confiance dans les médias ainsi que sur la culture du débat sociétal ?
Question : Quels mécanismes peuvent faire en sorte qu’un filtre d’actualités basé sur l’IA ne laisse passer que certaines informations sélectionnées et en masque d’autres, et comment ce biais influence-t-il la perception de la vérité, la diversité des opinions et la vie en société ?
Solution à suivre demain.
Solution
Le filtre d’actualités basé sur l’IA fonctionne avec des algorithmes qui évaluent les préférences des utilisateurs, leur comportement de clic et leurs modes d’interaction afin de sélectionner des contenus personnalisés.
Une cause du filtrage unilatéral est l’optimisation de l’engagement : l’IA privilégie les contenus que les utilisateurs sont susceptibles de cliquer plus souvent ou de lire plus longtemps, ce qui est souvent des informations polarisantes ou confirmatoires.
Les données d’entraînement et les profils utilisateurs peuvent renforcer les préjugés ou intérêts existants, de sorte que les perspectives alternatives ou contraires sont moins souvent diffusées.
Les limitations techniques dans la reconnaissance du contexte, des nuances et de la diversité des sources font que des sujets complexes ou controversés sont simplifiés ou omis.
Ces bulles de filtre réduisent la diversité des actualités et rendent plus difficile pour les utilisateurs d’obtenir une image complète et équilibrée de la réalité.
Au niveau sociétal, cela conduit à une fragmentation de l’opinion publique, une polarisation accrue et une perte de confiance dans les médias traditionnels et les processus démocratiques.
Pour y remédier, des algorithmes transparents, la promotion consciente de la diversité, un contrôle humain et la possibilité pour les utilisateurs d’ajuster consciemment les paramètres du filtre sont importants.
De plus, les maisons de médias et les plateformes devraient mettre en place des mécanismes qui rendent visibles les opinions contraires et les sources diverses afin de favoriser un paysage informationnel plus équilibré.
Résultat : Les filtres d’actualités pilotés par l’IA peuvent, par optimisation basée sur les données et préférences des utilisateurs, ne montrer systématiquement qu’une partie de la vérité. Cela influence la perception de la vérité, favorise les bulles de filtre et complique la cohésion sociale. Une conception consciente avec transparence, diversité et contrôle utilisateur est essentielle pour garantir la vérité médiatique et les discours démocratiques.