Une entreprise de santé développe un wearable assisté par IA qui mesure en temps réel le niveau de stress à travers des données physiologiques telles que la fréquence cardiaque, la conductance de la peau et les schémas de mouvement. L'IA doit avertir les utilisateurs précocement des signes avant-coureurs de stress afin qu'ils puissent prendre des mesures appropriées à temps.
Après le lancement, l'équipe constate que de nombreux utilisateurs ne reçoivent pas d'alertes malgré des niveaux de stress objectivement élevés. L'IA semble ignorer certaines situations de stress ou les classer comme inoffensives. Parallèlement, certains utilisateurs rapportent se sentir moins stressés alors que les données indiquent des signes accrus de stress.
L'équipe fait face au défi suivant : quelles causes techniques et psychologiques peuvent amener un système d'IA à rendre le stress invisible ou à le mal évaluer, et quelles en sont les conséquences pour le bien-être individuel, l'acceptation de tels systèmes ainsi que l'utilisation responsable des données de santé ?
Solution
L'IA pour la mesure du stress se base sur l'analyse de paramètres physiologiques associés au stress et utilise des modèles entraînés pour classifier les niveaux de stress.
Une raison pour laquelle le stress peut devenir invisible réside dans la grande variabilité individuelle des réactions au stress : toutes les personnes ne manifestent pas les mêmes schémas physiologiques sous stress, et certains types de stress (par exemple mental ou social) sont difficiles à détecter uniquement par des données biométriques.
Des données d'entraînement qui ne représentent pas suffisamment certaines populations ou situations de stress entraînent des biais de modèle et des erreurs d'évaluation.
De plus, l'IA peut posséder des mécanismes adaptatifs visant à éviter les fausses alertes, ce qui conduit à ne pas détecter les signaux subtils ou chroniques de stress.
Psychologiquement, l'absence d'alertes peut influencer la perception subjective du stress et conduire à une mauvaise évaluation de sa propre charge — soit par un faux sentiment de sécurité, soit par un refoulement.
Ce décalage entre mesures objectives et expérience subjective peut nuire à la confiance dans la technologie et réduire la volonté d'utilisation.
L'éthique et la protection des données sont particulièrement importantes, car les données de stress sont très sensibles et les mauvaises interprétations peuvent avoir des conséquences graves sur la santé mentale.
Pour améliorer cela, il est important d'avoir des données d'entraînement diversifiées et représentatives, une sensorique multimodale et l'intégration des retours utilisateurs. De plus, l'IA devrait communiquer de manière transparente comment et avec quelle incertitude le stress est détecté.
Une combinaison de détection automatique et d'accompagnement humain, par exemple par des conseillers en santé, peut aider à réduire les erreurs d'évaluation et améliorer le soutien aux utilisateurs.
Résultat :
Les systèmes d'IA pour la mesure du stress peuvent rendre le stress invisible en raison de la variabilité individuelle, de données d'entraînement insuffisantes et de mécanismes adaptatifs d'évitement d'erreurs.
Cela influence le bien-être, la construction de la confiance et nécessite des approches interdisciplinaires, de la transparence et la protection des données pour garantir une utilisation responsable dans la prévention santé.