Une plateforme en ligne souhaite soutenir les artistes en évaluant automatiquement les œuvres d'art grâce à un algorithme qui sélectionne les œuvres pour des expositions.
L'algorithme est entraîné avec des données historiques de critiques d'art et de succès d'expositions.
Après son lancement, on remarque que l'algorithme privilégie surtout les styles conventionnels et connus, et prend peu en compte les œuvres expérimentales ou inhabituelles.
De nombreux artistes créatifs et innovants se sentent désavantagés, bien que leurs travaux soient artistiquement précieux.
L'équipe se demande : pourquoi l'algorithme évalue-t-il les œuvres d'art de manière aussi unilatérale, alors qu'il a été entraîné sur des données variées ?
Question : Pourquoi les modèles d'IA chargés d'évaluer les œuvres d'art ont-ils tendance à favoriser les styles traditionnels ou déjà couronnés de succès et à désavantager les œuvres innovantes et non conventionnelles ?
Solution à suivre demain.
Solution
L'algorithme apprend des motifs à partir de données historiques dans lesquelles les œuvres d'art traditionnelles et déjà couronnées de succès sont surreprésentées.
Comme les styles expérimentaux ou nouveaux apparaissent plus rarement dans les données d'entraînement, ils sont moins bien reconnus ou évalués par le modèle.
Le modèle privilégie donc les œuvres similaires aux données d'entraînement, car il les a classées comme « réussies » ou « précieuses ».
L'art innovant, qui se démarque consciemment de l'ordinaire, est ainsi écarté car il ne correspond pas aux motifs connus.
Cela conduit à un biais qui limite la créativité et affecte la diversité de l'art.
Résultat : Un algorithme d'évaluation basé sur des données historiques peut involontairement favoriser les styles artistiques traditionnels et désavantager les nouvelles approches créatives. Pour des évaluations artistiques justes et diversifiées, les données d'entraînement et les modèles doivent être conçus de manière à promouvoir explicitement l'innovation et la diversité, et non à les supprimer par des biais historiques.