Una administración municipal introduce un asistente digital que debe ayudar a los ciudadanos en trámites y servicios municipales. El asistente utiliza inteligencia artificial para comprender consultas, proporcionar información y rellenar formularios.
Pronto se observa que el asistente, en consultas más complejas, a menudo solo ofrece información parcial o omite detalles importantes. Algunos ciudadanos reciben así respuestas incompletas que generan malentendidos y retrasos.
El equipo detrás del proyecto se pregunta: ¿Por qué el asistente digital entiende solo parcialmente algunas solicitudes, aunque se base en datos extensos y modelos modernos, y qué impacto tiene esto en la confianza de la población en los servicios administrativos digitales?
Pregunta: ¿Qué factores técnicos y sociales pueden hacer que un asistente digital basado en IA en la administración pública entienda y comunique solo de forma limitada, y cómo pueden diseñarse estos sistemas para garantizar una interacción inclusiva, comprensible y confiable con todos los ciudadanos?
La solución se publicará mañana.
Solución
Los asistentes digitales en la administración pública se basan en datos de entrenamiento que reflejan el lenguaje, las consultas y los procesos administrativos. Si estos datos son incompletos, sesgados o poco diversos, la IA puede entender solo de forma limitada ciertas solicitudes.
Las consultas complejas o ambiguas representan un desafío especial, ya que el asistente suele reconocer solo patrones de datos previos y no posee una comprensión completa del contexto.
Las limitaciones técnicas en el procesamiento del lenguaje natural, la falta de consideración de necesidades individuales y la escasa explicabilidad de las decisiones de la IA pueden conducir a respuestas incompletas o erróneas.
Socialmente, esto puede perjudicar especialmente a personas con menores competencias digitales, barreras lingüísticas o situaciones de vida complejas, lo que provoca una pérdida de confianza en los servicios administrativos digitales.
Para evitar estos problemas, se necesitan datos de entrenamiento variados y representativos, revisión continua por expertos humanos y diseños centrados en el usuario.
Además, la IA debería ser transparente cuando esté insegura y ofrecer alternativas de contacto.
Una estrecha colaboración entre tecnología, administración y ciudadanos es crucial para diseñar asistentes digitales inclusivos, comprensibles y confiables.
Resultado: Los asistentes digitales en la administración solo pueden entender de forma limitada si no se consideran adecuadamente los datos de entrenamiento, los modelos técnicos y las necesidades de los usuarios. Esto conduce a respuestas incompletas y pérdida de confianza. Un diseño inclusivo, transparente y orientado al usuario, junto con control humano, es necesario para establecer al ciudadano digital como un socio fiable.