Eine Stadtverwaltung setzt eine KI-basierte Plattform ein, um Bürgeranliegen effizient zu bearbeiten.
Bürger können ihre Anliegen digital einreichen und bekommen automatisierte Rückmeldungen.
Die KI filtert und priorisiert die Anliegen, um die Verwaltung zu entlasten und schneller zu reagieren.
Anfangs scheint das System gut zu funktionieren.
Doch bald beklagen sich viele Bürger, dass ihre Anliegen kaum noch beantwortet werden.
Vor allem kritische oder unzufriedene Stimmen scheinen in der automatischen Verarbeitung unterzugehen.
Die Verwaltung wundert sich: Warum verschwinden gerade die kritischen Anliegen und werden kaum bearbeitet?
Frage: Warum kann eine KI, die Bürgeranliegen automatisch priorisiert, dazu führen, dass kritische Stimmen systematisch ignoriert oder nicht bearbeitet werden?
Lösung folgt morgen.
Lösung
Die KI wurde trainiert, Anliegen nach Dringlichkeit und Tonalität zu bewerten.
Dabei lernt sie oft, dass neutrale oder positive Anfragen einfacher und schneller zu bearbeiten sind.
Kritische oder emotional negative Anliegen werden als komplexer eingestuft und daher niedriger priorisiert.
Außerdem kann die KI durch unzureichende Trainingsdaten oder Vorurteile in den Daten kritische Stimmen als weniger relevant einstufen oder sogar als Spam klassifizieren.
Das führt dazu, dass wichtige Beschwerden oder Probleme seltener bearbeitet werden und Bürger sich ignoriert fühlen.
Ergebnis: Eine KI, die Bürgeranliegen automatisiert priorisiert, muss sorgfältig darauf achten, keine kritischen Stimmen auszuschließen. Sonst entsteht eine Verzerrung, die wichtige Rückmeldungen unterdrückt und das Vertrauen in die Verwaltung schwächt.