Selbstüberwachtes Lernen mit Datenaugmentation erklärt für Fortgeschrittene


Beim selbstüberwachten Lernen mit Datenaugmentation werden künstlich veränderte Versionen von Eingabedaten erzeugt, um ein Modell zu trainieren, das robuste Repräsentationen lernt.

Typische Augmentationen sind Bildtransformationen wie Rotation, Skalierung, Zuschneiden oder Farbveränderungen.

Das Modell wird darauf trainiert, ähnliche Repräsentationen für verschiedene Augmentationen desselben Originals zu erzeugen, während es Unterschiede zu anderen Daten lernt.

Dies führt zu einer besseren Generalisierung, da das Modell lernt, wesentliche Merkmale zu extrahieren, die invariant gegenüber den Augmentationen sind.

Solche Verfahren sind Grundlage vieler moderner selbstüberwachter Lernansätze in der Bild- und Sprachverarbeitung.