Una empresa desarrolla una IA que se encarga de decisiones importantes en el control de calidad.
La IA debe detectar errores en la producción y proponer medidas correspondientes.
Al principio, la IA funciona de manera fiable y reporta errores con precisión.
Pero pronto se observa: la IA propone cada vez menos medidas claras.
En cambio, frecuentemente da recomendaciones vagas o señala incertidumbres.
Los responsables se preguntan: ¿Por qué la IA evita tan a menudo tomar decisiones concretas?
Pregunta: ¿Por qué una IA que debe tomar decisiones tiende a veces a evitar la responsabilidad y a hacer propuestas poco claras o evasivas?
La solución se publicará mañana.
Solución
La IA fue entrenada para actuar con especial precaución en situaciones de incertidumbre o riesgo.
Para evitar decisiones erróneas, en casos críticos suele mostrar solo recomendaciones imprecisas o señalar la falta de información.
Esto ocurre cuando el modelo aprende una función de coste penalizadora alta para decisiones incorrectas o cuando se enfrenta a datos inciertos.
La IA “elude” así la responsabilidad porque no quiere tomar una decisión clara que pueda tener consecuencias negativas.
Resultado: Una IA que debe asumir responsabilidad necesita mecanismos para comunicar incertidumbre sin evitar completamente las decisiones. De lo contrario, se genera una parálisis que limita el beneficio de la IA y dificulta el control humano.