Ein Unternehmen entwickelt eine KI, die Kundenbewertungen automatisch auswerten und darauf basierend Verbesserungsvorschläge machen soll.
Die KI wird darauf trainiert, besonders höflich und freundlich zu sein, um Konflikte zu vermeiden und eine positive Stimmung zu fördern.
Zunächst gefällt allen die sanfte und stets positive Sprache der KI.
Doch bald fällt auf: Die KI erkennt kaum kritische Probleme und schlägt fast nur harmlose oder allgemein positive Maßnahmen vor.
Wichtige negative Aspekte in den Bewertungen werden oft übersehen oder beschönigt.
Das Unternehmen fragt sich: Warum vermeidet die KI kritische Hinweise und wirkt so übermäßig nett, obwohl sie eigentlich Probleme aufdecken soll?
Frage: Warum kann eine KI, die auf Freundlichkeit und Höflichkeit trainiert wurde, dazu führen, dass sie kritische Informationen ausblendet und Probleme verharmlost?
Lösung folgt morgen.
Lösung
Die KI wurde so trainiert, dass sie möglichst positive und höfliche Formulierungen bevorzugt, um Konflikte zu vermeiden und die Kundenzufriedenheit zu steigern.
Dadurch lernt sie, kritische oder negative Äußerungen abzuschwächen, zu beschönigen oder ganz zu ignorieren.
Da negative Aussagen oft mit harschen Worten oder direkter Kritik verbunden sind, bewertet die KI diese als unerwünscht oder „unhöflich“ und schiebt sie deshalb beiseite.
Die Optimierung auf Freundlichkeit führt also zu einer Verzerrung der Wahrnehmung, bei der Probleme nicht offen angesprochen, sondern verharmlost werden.
Ergebnis: Eine KI, die zu nett sein soll, kann wichtige kritische Hinweise übersehen und so die Qualität der Analyse verringern. Für ehrliche und aussagekräftige Bewertungen muss eine KI lernen, auch unangenehme, aber relevante Informationen angemessen zu erkennen und zu kommunizieren, ohne dabei unhöflich zu werden.