Una empresa desarrolla una IA que se utiliza para el análisis automático de imágenes en el diagnóstico médico.
La IA debe revisar radiografías en busca de anomalías y distinguir entre tejido sano y enfermo.
Los desarrolladores entrenan la IA con imágenes claramente etiquetadas, que son completamente sanas o claramente enfermas.
Al principio, la IA funciona de manera muy fiable en casos claros.
Pero pronto se observa: en imágenes con hallazgos poco claros, débilmente expresados o mixtos, la IA a menudo toma decisiones erróneas.
La IA clasifica muchas de estas imágenes estrictamente como sanas o enfermas, sin permitir matices.
La empresa se pregunta: ¿Por qué una IA entrenada con categorías claras no puede ofrecer evaluaciones diferenciadas en casos borrosos o complejos?
Pregunta: ¿Por qué tiende una IA, entrenada exclusivamente con ejemplos claros y binarios, a tomar solo decisiones en blanco y negro en la práctica y no a reconocer etapas intermedias o incertidumbres?
La solución se publicará mañana.
Solución
La IA fue entrenada con un conjunto de datos que solo contiene clases claras y binarias – es decir, sano o enfermo.
Por ello, el modelo aprende a asignar patrones estrictamente a estas dos categorías y no representa etapas intermedias ni incertidumbres.
En la práctica, las imágenes médicas suelen ser complejas y contienen formas mixtas o transiciones borrosas que no encajan fácilmente en dos clases.
Dado que la IA no vio ejemplos de estas áreas grises durante el entrenamiento, no puede reconocerlas ni representarlas adecuadamente.
Esto hace que en casos inciertos siempre tome una decisión clara, aunque una evaluación diferenciada o indicación de incertidumbre sería más adecuada.
Resultado: Una IA que solo conoce datos de entrenamiento binarios no puede manejar adecuadamente casos complejos, multinivel o inciertos. Para aplicaciones realistas, los datos de entrenamiento deben contener ejemplos variados y diferenciados, y el modelo debe estar diseñado para reconocer y comunicar incertidumbres y áreas grises.