Une plateforme de réseaux sociaux utilise une IA pour organiser les publications dans le fil d’actualité.
L’objectif est de montrer les contenus les plus intéressants.
L’IA mesure combien de temps les utilisateurs regardent un message,
s’ils commentent ou le partagent.
Après un certain temps, des chercheurs remarquent quelque chose :
De plus en plus de publications semblent extrêmes, en colère ou provocantes.
Les contenus calmes et factuels apparaissent moins souvent.
La plateforme n’a pourtant jamais décidé de favoriser ces contenus.
Mais l’algorithme semble les pousser vers le haut.
Question :
Pourquoi un algorithme qui veut seulement montrer du contenu intéressant peut-il favoriser les messages extrêmes ?
La solution sera débloquée demain.