Selbstüberwachtes Lernen mit Schwarmintelligenz bezeichnet ein Lernparadigma, bei dem multiple autonome Lernagenten in einem dezentralen Netzwerk interagieren, um durch gegenseitige Konsensbildung und kollektive Pseudolabel-Generierung robuste Repräsentationen zu erlernen.
Formal betrachtet besteht ein Schwarm aus einer Menge von Agenten \( A = \{a_1, a_2, ..., a_n\} \), die jeweils lokale Modelle \( M_i \) besitzen und über Kommunikationsprotokolle \( C \) Informationen austauschen.
Die Agenten erzeugen selbstüberwachte Signale \( S_i \) aus ihren lokalen Daten und teilen diese mit anderen Agenten, um so kollektive Trainingsziele zu definieren, die die Lernleistung verbessern.
Diese verteilte Lernarchitektur fördert die Diversität der Repräsentationen und erhöht die Robustheit gegenüber Ausfällen und Rauschen.
Definition:
„Selbstüberwachtes Lernen mit Schwarmintelligenz ist ein dezentralisiertes Lernverfahren, bei dem mehrere autonome Agenten durch Interaktion und kollektive Pseudolabel-Generierung gemeinsam aussagekräftige Datenrepräsentationen ohne externe Labels erlernen.“
Quelle:
Li, X., & Wang, Y. (2022). Swarm Intelligence Enhanced Self-Supervised Learning: A Decentralized Approach. Proceedings of the 36th AAAI Conference on Artificial Intelligence.