Un hôpital utilise une IA pour prédire quels patients seront réadmis dans les 30 prochains jours.

Le modèle atteint une précision de 92 % lors des tests et a été entraîné sur des données historiques.

Après six mois, on constate :

• Les patients des quartiers aisés sont classés « à risque » moins souvent.
• Les patients des quartiers défavorisés beaucoup plus souvent.

L’analyse montre que le modèle utilise fortement le nombre de consultations médicales passées.

Les personnes aisées consultent plus souvent à titre préventif. Les autres consultent souvent seulement lorsque les problèmes deviennent graves.

Question :
Le modèle est-il discriminatoire — ou simplement statistiquement correct ?

La solution sera débloquée demain.