Una empresa desarrolla una IA que debe detectar automáticamente riesgos de seguridad en vídeos de vigilancia.
La IA se entrena para identificar peligros evidentes como fuego, armas o movimientos rápidos.
Al principio, la IA funciona bien en escenarios claros y sencillos.
Pero pronto se observa que la IA pasa por alto comportamientos sutiles que indican un peligro inminente, como mirar nerviosamente alrededor o dinámicas de grupo inusuales.
El equipo de seguridad se pregunta: ¿Por qué la IA solo reconoce los peligros evidentes, pero ignora las señales sutiles que a menudo son más importantes?
Pregunta: ¿Por qué tiende una IA entrenada en características fácilmente reconocibles a no percibir señales de advertencia complejas y sutiles y solo reconocer lo obvio?
La solución se publicará mañana.
Solución
La IA fue entrenada con datos de entrenamiento que muestran principalmente peligros claros y evidentes, es decir, objetos o movimientos fácilmente reconocibles.
Por ello, aprende a reaccionar principalmente a características muy marcadas y obvias, y no a patrones de comportamiento complejos o sutiles.
Las señales de advertencia sutiles, como cambios de comportamiento o dinámicas sociales, son más difíciles de cuantificar y suelen estar subrepresentadas o no estar explícitamente marcadas en los datos de entrenamiento.
Por tanto, la IA no tiene suficientes indicios para aprender estos patrones complejos o considerarlos relevantes.
Resultado: Una IA entrenada solo en características obvias suele pasar por alto señales sutiles importantes que son decisivas para una advertencia temprana de peligro. Para una detección de riesgos más eficaz, es necesario ampliar los datos de entrenamiento y los modelos para capturar y evaluar adecuadamente también patrones de comportamiento complejos e información contextual.