Una empresa desarrolla una IA que debe reconocer automáticamente patrones interesantes en grandes flujos de datos.
La IA se entrena para resaltar especialmente eventos inusuales o valores atípicos, para que los analistas puedan reaccionar rápidamente ante anomalías.
Al principio, la IA parece muy útil, ya que informa de anomalías raras de forma fiable.
Pero pronto los analistas notan un problema:
La IA ignora o evalúa como irrelevantes patrones comunes pero importantes.
Las tendencias importantes y los desarrollos regulares apenas se reconocen o ni siquiera se muestran.
La empresa se pregunta: ¿Por qué la IA prefiere constantemente solo puntos de datos inusuales y pasa por alto lo común, aunque a menudo sea igual de relevante?
Pregunta: ¿Por qué una IA entrenada para reconocer patrones inusuales puede pasar por alto patrones y tendencias importantes que ocurren regularmente?
La solución se publicará mañana.
Solución
La IA fue entrenada específicamente para reconocer y priorizar valores atípicos y anomalías, ya que estos a menudo indican errores o eventos especiales.
Por ello, aprende a clasificar los patrones inusuales como especialmente relevantes y a evaluar los patrones cotidianos o frecuentes como menos interesantes.
Las tendencias regulares o los desarrollos continuos son considerados por la IA como «normales» y por tanto a menudo se ocultan o no se resaltan.
Este comportamiento surge de los objetivos de entrenamiento y las métricas de evaluación, que priorizan las anomalías y definen los patrones frecuentes como «estándar».
Resultado: Una IA que se centra solo en lo inusual puede pasar por alto información importante pero regular. Para análisis completos, estos sistemas deben reconocer también lo común como relevante e incluirlo en sus evaluaciones, de lo contrario se genera una visión sesgada que ignora desarrollos esenciales.