Eine Stadtverwaltung führt ein KI-gestütztes System ein, das auf Basis von Sensordaten und Verhaltensmustern die Sicherheit und Ordnung in öffentlichen Bereichen verbessern soll.
Die KI analysiert Bewegungsprofile und meldet verdächtige Personen oder Gruppen automatisch an die Behörden.
Nach einiger Zeit bemerken Bürger, dass bestimmte Bevölkerungsgruppen unverhältnismäßig häufig als verdächtig markiert werden, obwohl es keine objektiven Vorfälle gibt.
Das Team fragt sich: Warum zeigt die smarte Stadt-KI eine starke Tendenz, bestimmte Menschen systematisch zu überwachen und zu melden, obwohl sie neutral und objektiv sein soll?
Frage: Warum kann ein KI-System zur Überwachung öffentlicher Räume unbeabsichtigt soziale oder ethnische Gruppen diskriminieren und wie entsteht diese Verzerrung trotz neutraler Programmierung?
Lösung folgt morgen.
Lösung
Das KI-System wird mit historischen Daten trainiert, die reale Überwachungsmuster und Vorfälle abbilden.
Wenn diese Daten soziale oder ethnische Gruppen aufgrund vergangener Vorurteile oder polizeilicher Praxis häufiger als verdächtig markieren, lernt die KI, diese Muster zu reproduzieren.
Die KI erkennt nicht den Kontext oder die Ursachen, sondern wertet nur statistische Häufigkeiten aus, wodurch bestehende soziale Ungleichheiten verstärkt werden.
Diese Verzerrung entsteht also durch die Datenbasis und nicht durch eine bewusste Programmierung der KI.
Ergebnis: Ein Überwachungssystem, das auf historischen und unkritisch übernommenen Daten trainiert wird, kann unbeabsichtigt diskriminierende Muster verstärken und bestimmte Gruppen systematisch benachteiligen. Um faire und gerechte smarte Städte zu gestalten, müssen Trainingsdaten sorgfältig geprüft, diversifiziert und durch ethische Richtlinien ergänzt werden, damit die KI keine Vorurteile übernimmt und alle Bürger gleich behandelt.