La catastrophe du chatbot empathique
Une entreprise développe un chatbot IA pour le service client.
Sa particularité : il reconnaît les émotions et réagit avec une grande empathie.
Après quelques semaines, un phénomène étrange apparaît :
Les clients en colère se calment plus vite – mais le nombre total de plaintes augmente nettement.
La direction est perplexe.
Le bot est poli, compréhensif et résout correctement les problèmes.
Pourquoi alors y a-t-il soudainement plus de plaintes ?
Question :
Pourquoi un chatbot empathique entraîne-t-il davantage de plaintes ?
La solution sera débloquée demain.
Solution
Le chatbot renforce involontairement les émotions négatives.
Comme il détecte les émotions avec précision, il les mentionne explicitement :
« Je vois que vous êtes très contrarié. »
Les clients se sentent ainsi confirmés dans leur colère –
et intensifient encore leurs plaintes.
Ils apprennent aussi rapidement :
Plus ils réagissent de manière émotionnelle, plus ils obtiennent de l’aide rapidement.
Résultat :
L’IA améliore la conversation,
mais entraîne involontairement les clients
à devenir plus bruyants et plus dramatiques.