¿Qué pasa cuando una IA se vuelve demasiado cautelosa?
Una empresa desarrolla una IA que debe apoyar en diagnósticos médicos.
Para minimizar riesgos, la IA se programa para que solo emita un diagnóstico cuando esté muy segura, y de lo contrario no dé ninguna recomendación.
En funcionamiento, la IA a menudo no muestra diagnóstico, incluso en casos claros, porque prefiere esperar y no cometer errores.
El personal médico se pregunta: ¿Por qué la IA toma tan pocas decisiones, aunque se supone que debe ayudar?
Pregunta: ¿Por qué una IA que está demasiado optimizada para evitar errores puede tender a emitir pocos diagnósticos y así limitar su utilidad?
La solución se publicará mañana.
Solución
Cuando una IA está programada con excesiva cautela para evitar decisiones erróneas, tiende a emitir un diagnóstico solo con una seguridad muy alta.
Esto provoca que en muchos casos no tome ninguna decisión, incluso cuando sería posible una valoración informada.
Este comportamiento surge de una fuerte ponderación de los costos de error en el proceso de entrenamiento o decisión, lo que hace que el modelo establezca un umbral muy alto para los diagnósticos.
Así, se limita la utilidad de la IA porque no ofrece apoyo a muchos pacientes y el personal médico debe hacerse cargo del trabajo.
Resultado: Una IA demasiado cautelosa puede reducir su utilidad práctica por su reticencia y retrasar decisiones importantes. Para sistemas de asistencia médica es importante encontrar un equilibrio entre cautela y disposición a decidir, para minimizar errores y permitir diagnósticos útiles.