Une entreprise développe une IA qui doit automatiquement détecter des motifs intéressants dans de grands flux de données.
L'IA est entraînée à mettre particulièrement en évidence les événements inhabituels ou les valeurs aberrantes, afin que les analystes puissent réagir rapidement aux anomalies.
Au début, l'IA semble très utile, car elle signale de manière fiable des anomalies rares.
Mais bientôt, les analystes remarquent un problème :
L'IA ignore ou évalue comme non pertinentes les motifs ordinaires mais importants.
Les tendances importantes et les évolutions régulières sont à peine reconnues ou même pas affichées.
L'entreprise se demande : pourquoi l'IA privilégie-t-elle constamment uniquement les points de données inhabituels et néglige-t-elle l'ordinaire, bien que souvent tout aussi pertinent ?
Question : Pourquoi une IA entraînée à reconnaître des motifs inhabituels peut-elle passer à côté de motifs et tendances importants et récurrents ?
Solution à suivre demain.
Solution
L'IA a été spécialement entraînée à reconnaître et prioriser les valeurs aberrantes et anomalies, car celles-ci indiquent souvent des erreurs ou des événements particuliers.
Elle apprend ainsi à considérer les motifs inhabituels comme particulièrement pertinents et à évaluer les motifs quotidiens ou fréquents comme moins intéressants.
Les tendances régulières ou les évolutions continues sont considérées par l'IA comme « normales » et sont donc souvent masquées ou non mises en avant.
Ce comportement résulte des objectifs d'entraînement et des métriques d'évaluation qui priorisent les anomalies et définissent les motifs fréquents comme « standard ».
Résultat : Une IA focalisée uniquement sur l'inhabituel peut négliger des informations importantes mais régulières. Pour des analyses complètes, ces systèmes doivent aussi reconnaître l'ordinaire comme pertinent et l'intégrer dans leurs évaluations, sinon une vision biaisée se crée, ignorant des évolutions essentielles.