Ein Unternehmen entwickelt eine KI, die Produktbewertungen automatisiert zusammenfassen soll.
Die KI vergleicht neue Bewertungen mit bestehenden, um schnell eine Gesamtbewertung abzuleiten.
Zunächst funktioniert das gut, denn sie findet Muster und ordnet Bewertungen ein.
Doch bald fällt auf: Die KI bewertet neue, einzigartige oder besondere Meinungen immer als weniger relevant oder sogar falsch.
Ungewöhnliche Bewertungen, die von den bisherigen abweichen, werden stark abgewertet oder ignoriert.
Das Unternehmen fragt sich: Warum kann eine KI, die Vergleiche als Grundlage nutzt, neue oder abweichende Sichtweisen nicht angemessen berücksichtigen?
Frage: Warum tendiert eine KI, die auf Vergleich mit bestehenden Daten trainiert ist, dazu, ungewöhnliche oder neuartige Bewertungen zu vernachlässigen oder falsch einzuschätzen?
Lösung folgt morgen.
Lösung
Die KI wurde darauf trainiert, neue Bewertungen anhand ihrer Ähnlichkeit zu bereits vorhandenen zu bewerten und einzuordnen.
Dadurch lernt sie, dass Bewertungen, die stark von etablierten Mustern abweichen, als Ausreißer oder Fehler interpretiert werden.
Ungewöhnliche oder neue Perspektiven werden als weniger wahrscheinlich oder weniger relevant eingestuft, da sie nicht zu den bisherigen Daten passen.
Diese Verzerrung entsteht durch das Trainingsprinzip, das auf Vergleich und Mustererkennung basiert, ohne explizit Raum für Innovation oder Divergenz zu lassen.
Ergebnis: Eine KI, die immer alles nur mit Bekanntem vergleicht, kann neue oder abweichende Meinungen nicht angemessen würdigen. Für eine umfassende und faire Bewertung müssen solche Systeme lernen, auch ungewöhnliche Sichtweisen als potenziell wertvoll zu erkennen und nicht automatisch abzuwerten.