Une entreprise développe une IA destinée à détecter automatiquement les risques de sécurité dans les vidéos de surveillance.
L’IA est entraînée à identifier des dangers évidents tels que le feu, les armes ou les mouvements rapides.
Au début, l’IA fonctionne bien dans des scénarios clairs et simples.
Mais bientôt, on remarque que l’IA ignore les comportements subtils qui indiquent un danger imminent, comme des regards nerveux ou des dynamiques de groupe inhabituelles.
L’équipe de sécurité se demande : pourquoi l’IA ne reconnaît-elle que les dangers évidents, en ignorant les indices subtils souvent plus importants ?
Question : Pourquoi une IA entraînée sur des caractéristiques facilement reconnaissables a-t-elle tendance à ne pas percevoir les signaux d’alerte complexes et subtils, et à ne détecter que l’évident ?
Solution à venir demain.
Solution
L’IA a été entraînée avec des données principalement montrant des dangers clairs et évidents – donc des objets ou mouvements facilement reconnaissables.
Elle apprend ainsi à réagir surtout à des caractéristiques fortement marquées et évidentes, sans reconnaître les comportements complexes ou subtils.
Les signaux d’alerte subtils comme les changements de comportement ou les dynamiques sociales sont plus difficiles à quantifier et sont souvent sous-représentés ou non explicitement annotés dans les données d’entraînement.
L’IA ne dispose donc pas de suffisamment d’indices pour apprendre ces schémas complexes ou les considérer comme pertinents.
Résultat : Une IA entraînée uniquement sur des caractéristiques évidentes passe souvent à côté d’indices subtils importants, essentiels pour une alerte précoce des dangers. Pour une détection des risques plus efficace, il faut élargir les données d’entraînement et les modèles afin de capturer et d’évaluer correctement les comportements complexes et les informations contextuelles.