Una plataforma en línea quiere apoyar a artistas, haciendo que un algoritmo evalúe automáticamente obras de arte y las seleccione para exposiciones.
El algoritmo se entrena con datos históricos de críticas de arte y éxitos en exposiciones.
Tras su implementación, se observa que el algoritmo prefiere principalmente estilos convencionales y conocidos, y apenas considera obras experimentales o inusuales.
Muchos artistas creativos e innovadores se sienten perjudicados, aunque sus trabajos tengan valor artístico.
El equipo se pregunta: ¿Por qué el algoritmo evalúa las obras de arte de manera tan sesgada, aunque haya sido entrenado con datos variados?
Pregunta: ¿Por qué los modelos de IA que deben evaluar obras de arte tienden a favorecer estilos tradicionales o ya exitosos y a perjudicar obras innovadoras y poco convencionales?
La solución se publicará mañana.
Solución
El algoritmo aprende patrones a partir de datos históricos en los que las obras tradicionales y ya exitosas están sobrerrepresentadas.
Como los estilos experimentales o nuevos aparecen con menos frecuencia en los datos de entrenamiento, el modelo los reconoce o evalúa peor.
Por ello, el modelo prefiere obras similares a los datos de entrenamiento, porque las ha clasificado como «exitosas» o «valiosas».
El arte innovador, que se diferencia conscientemente de lo habitual, queda así fuera de la selección, ya que no corresponde a los patrones conocidos.
Esto conduce a un sesgo que limita la creatividad y afecta la diversidad del arte.
Resultado: Un algoritmo de evaluación basado en datos históricos puede favorecer involuntariamente estilos artísticos tradicionales y perjudicar enfoques creativos nuevos. Para evaluaciones justas y diversas del arte, los datos de entrenamiento y los modelos deben diseñarse para fomentar explícitamente la innovación y la diversidad, y no ser suprimidos por sesgos históricos.