Une administration municipale utilise une plateforme basée sur l’IA pour traiter efficacement les demandes des citoyens.
Les citoyens peuvent soumettre leurs demandes numériquement et reçoivent des retours automatisés.
L’IA filtre et priorise les demandes afin de soulager l’administration et de réagir plus rapidement.
Au début, le système semble bien fonctionner.
Mais bientôt, de nombreux citoyens se plaignent que leurs demandes reçoivent peu de réponses.
Ce sont surtout les voix critiques ou insatisfaites qui semblent se perdre dans le traitement automatique.
L’administration s’étonne : pourquoi les demandes critiques disparaissent-elles et sont-elles à peine traitées ?
Question : Pourquoi une IA qui priorise automatiquement les demandes des citoyens peut-elle conduire à ce que les voix critiques soient systématiquement ignorées ou non traitées ?
Solution à suivre demain.
Solution
L’IA a été entraînée à évaluer les demandes selon leur urgence et leur tonalité.
Elle apprend souvent que les requêtes neutres ou positives sont plus simples et rapides à traiter.
Les demandes critiques ou émotionnellement négatives sont considérées comme plus complexes et donc moins prioritaires.
De plus, l’IA peut, en raison de données d’entraînement insuffisantes ou de biais dans les données, classer les voix critiques comme moins pertinentes ou même comme spam.
Cela conduit à ce que les plaintes ou problèmes importants soient traités moins fréquemment et que les citoyens se sentent ignorés.
Résultat : Une IA qui priorise automatiquement les demandes des citoyens doit veiller avec soin à ne pas exclure les voix critiques. Sinon, un biais se crée, supprimant des retours importants et affaiblissant la confiance dans l’administration.