Un citoyen numérique qui ne comprend que la moitié
Une administration municipale met en place un assistant numérique destiné à aider les citoyennes et citoyens dans leurs démarches administratives et les services municipaux. L’assistant utilise l’intelligence artificielle pour comprendre les demandes, fournir des informations et remplir des formulaires.
Il est rapidement constaté que l’assistant ne fournit souvent que des informations partielles ou omet des détails importants pour des demandes plus complexes. Certains citoyens reçoivent ainsi des réponses incomplètes, ce qui entraîne des malentendus et des retards.
L’équipe derrière le projet se demande : pourquoi l’assistant numérique ne comprend-il que partiellement certaines requêtes, bien qu’il soit basé sur des données étendues et des modèles modernes, et quelles sont les conséquences sur la confiance de la population envers les services administratifs numériques ?
Question : Quels facteurs techniques et sociétaux peuvent conduire un assistant numérique basé sur l’IA dans l’administration publique à comprendre et communiquer de manière limitée, et comment ces systèmes peuvent-ils être conçus pour garantir une interaction inclusive, compréhensible et digne de confiance avec toutes les citoyennes et tous les citoyens ?
Solution à venir demain.
Solution
Les assistants numériques dans l’administration publique reposent sur des données d’entraînement qui reflètent la langue, les demandes et les processus administratifs. Si ces données sont incomplètes, biaisées ou pas assez diversifiées, l’IA ne peut comprendre que partiellement certaines requêtes.
Les demandes complexes ou ambiguës représentent un défi particulier, car l’assistant reconnaît souvent seulement des motifs issus des données précédentes et ne possède pas une compréhension complète du contexte.
Les limitations techniques dans le traitement du langage naturel, le manque de prise en compte des besoins individuels ainsi que le manque d’explicabilité des décisions de l’IA peuvent conduire à des réponses incomplètes ou erronées.
Sur le plan sociétal, cela peut désavantager notamment les personnes ayant des compétences numériques limitées, des barrières linguistiques ou des situations de vie complexes, ce qui entraîne une perte de confiance dans les services administratifs numériques.
Pour éviter ces problèmes, des données d’entraînement variées et représentatives, une vérification continue par des experts humains ainsi que des conceptions centrées sur l’utilisateur sont nécessaires.
De plus, l’IA devrait être transparente lorsqu’elle est incertaine et proposer des moyens de contact alternatifs.
Une collaboration étroite entre la technique, l’administration et les citoyennes et citoyens est essentielle pour concevoir des assistants numériques inclusifs, compréhensibles et dignes de confiance.
Résultat : Les assistants numériques dans l’administration ne peuvent comprendre que de manière limitée si les données d’entraînement, les modèles techniques et les besoins des utilisateurs ne sont pas suffisamment pris en compte. Cela conduit à des informations incomplètes et à une perte de confiance. Une conception inclusive, transparente et centrée sur l’utilisateur ainsi qu’un contrôle humain sont nécessaires pour établir le citoyen numérique comme un partenaire fiable.