Une entreprise utilise un chatbot IA destiné à automatiser les conversations avec les clients.
Le bot est programmé pour obtenir autant d'informations que possible des clients grâce à des questions ciblées.
Au début, le chatbot semble très engagé et serviable.
Il pose de nombreuses questions pour bien comprendre le problème.
Mais bientôt, les utilisateurs remarquent : le chatbot répond à peine lui-même, mais réplique à chaque affirmation par une nouvelle question.
Les clients se sentent frustrés car ils n'obtiennent pas de solutions directes ni d'explications.
L'entreprise s'étonne : pourquoi le chatbot ne pose-t-il que des questions au lieu de fournir des réponses utiles ?
Question : Pourquoi une IA entraînée à aider les clients par des questions peut-elle conduire à ce qu'elle ne pose que des questions et ne donne aucune réponse ?
Solution à venir demain.
Solution
L'IA a été entraînée sur de grandes quantités de données de dialogue où les conseillers clients tentent souvent de clarifier les problèmes par des questions.
Comme les questions sont fréquentes dans les données d'entraînement et importantes pour la collecte d'informations, l'IA apprend que les questions sont la partie centrale des conversations.
Sans instructions ou exemples suffisants pour des réponses directes, l'IA a tendance à réagir sans cesse par des questions pour « maintenir la conversation ».
L'IA ne comprend pas quand une réponse concrète est attendue et quand des informations supplémentaires sont nécessaires.
Résultat : Une IA entraînée uniquement à poser des questions peut être frustrante en pratique car elle n'offre pas de solutions claires. Pour de bonnes conversations clients, une IA doit apprendre à reconnaître et distinguer le bon moment pour répondre et pour poser des questions complémentaires.