Une entreprise développe une IA utilisée pour l’analyse automatique d’images en diagnostic médical.
L’IA doit examiner les radiographies à la recherche d’anomalies et distinguer les tissus sains des tissus malades.
Les développeurs entraînent l’IA avec des images clairement étiquetées, soit complètement saines, soit manifestement malades.
Au début, l’IA fonctionne de manière très fiable dans les cas évidents.
Mais bientôt, on remarque que pour les images présentant des anomalies floues, peu marquées ou mixtes, l’IA prend souvent de mauvaises décisions.
L’IA classe strictement beaucoup de ces images comme saines ou malades, sans permettre de nuances.
L’entreprise se demande : pourquoi une IA entraînée sur des catégories claires ne peut-elle pas fournir d’évaluations nuancées dans des cas flous ou complexes ?
Question : Pourquoi une IA entraînée uniquement avec des exemples clairs et binaires a-t-elle tendance, en pratique, à ne prendre que des décisions en noir et blanc, sans reconnaître les intermédiaires ou les incertitudes ?
Solution à suivre demain.
Solution
L’IA a été entraînée avec un jeu de données ne contenant que des classes claires et binaires – donc soit sain, soit malade.
De ce fait, le modèle apprend à associer strictement les motifs à ces deux catégories et ne représente pas les intermédiaires ou les incertitudes.
En pratique, les images médicales sont souvent complexes et contiennent des formes mixtes ou des transitions floues qui ne se classent pas simplement en deux catégories.
Comme l’IA n’a pas vu d’exemples de ces zones grises pendant l’entraînement, elle ne peut pas les reconnaître ou les représenter correctement.
Cela conduit à ce qu’elle prenne toujours une décision claire dans les cas incertains, alors qu’une évaluation différenciée ou une indication d’incertitude serait plus appropriée.
Résultat : Une IA qui ne connaît que des données d’entraînement binaires n’est pas capable de traiter adéquatement des cas complexes, à plusieurs niveaux ou incertains. Pour des applications réalistes, les données d’entraînement doivent contenir des exemples variés et différenciés, et le modèle doit être conçu pour reconnaître et communiquer les incertitudes et les zones grises.