Eine Social-Media-Plattform nutzt eine KI, um Beiträge im Feed der Nutzer zu sortieren.
Die KI soll zeigen, was Menschen besonders interessant finden.
Dafür misst sie, wie lange Nutzer einen Beitrag ansehen,
ob sie kommentieren oder ihn weiterleiten.
Nach einiger Zeit fällt Forschern jedoch etwas auf:
Immer mehr Beiträge wirken extrem, wütend oder provokant.
Ruhige und sachliche Inhalte werden seltener angezeigt.
Die Plattform selbst hat solche Inhalte nie bewusst bevorzugt.
Trotzdem scheint der Algorithmus genau diese Beiträge nach oben zu bringen.
Frage:
Warum kann ein Algorithmus, der nur interessante Inhalte zeigen soll, immer extremere Beiträge bevorzugen?
Lösung folgt morgen.