Stell dir vor, der Algorithmus entscheidet über Kunst
Eine Online-Plattform will Künstlerinnen und Künstler fördern, indem ein Algorithmus automatisch Kunstwerke bewertet und für Ausstellungen auswählt.
Der Algorithmus wird mit historischen Daten von Kunstkritiken und Ausstellungserfolgen trainiert.
Nach der Einführung fällt auf, dass der Algorithmus vor allem konventionelle, bekannte Stile bevorzugt und experimentelle oder ungewöhnliche Werke kaum berücksichtigt.
Viele kreative und innovative Künstler fühlen sich benachteiligt, obwohl ihre Arbeiten künstlerisch wertvoll sind.
Das Team fragt sich: Warum bewertet der Algorithmus Kunstwerke so einseitig, obwohl er auf vielfältigen Daten trainiert wurde?
Frage: Warum neigen KI-Modelle, die Kunstwerke bewerten sollen, dazu, traditionelle oder bereits erfolgreiche Stile zu bevorzugen und innovative, unkonventionelle Werke zu benachteiligen?
Lösung folgt morgen.
Lösung
Der Algorithmus lernt Muster aus historischen Daten, in denen traditionelle und bereits erfolgreiche Kunstwerke überrepräsentiert sind.
Da experimentelle oder neue Stile seltener in den Trainingsdaten vorkommen, werden diese vom Modell schlechter erkannt oder bewertet.
Das Modell bevorzugt daher Werke, die den Trainingsdaten ähnlich sind, weil es diese als „erfolgreich“ oder „wertvoll“ klassifiziert hat.
Innovative Kunst, die sich bewusst vom Gewohnten abhebt, fällt so durch das Raster, da sie nicht den bekannten Mustern entspricht.
Dies führt zu einer Verzerrung, die Kreativität einschränkt und die Vielfalt der Kunst beeinträchtigt.
Ergebnis: Ein Bewertungsalgorithmus, der auf historischen Daten basiert, kann ungewollt traditionelle Kunststile bevorzugen und neue kreative Ansätze benachteiligen. Für faire und vielfältige Kunstbewertungen müssen Trainingsdaten und Modelle so gestaltet werden, dass Innovation und Vielfalt explizit gefördert und nicht durch historische Verzerrungen unterdrückt werden.