Самоконтролируемое обучение с использованием ройного интеллекта, объясненное для экспертов


Самоконтролируемое обучение с использованием ройного интеллекта обозначает парадигму обучения, при которой несколько автономных обучающих агентов взаимодействуют в децентрализованной сети для обучения устойчивых представлений через взаимное достижение консенсуса и коллективное создание псевдометок.

Формально рой состоит из множества агентов \( A = \{a_1, a_2, ..., a_n\} \), каждый из которых обладает локальными моделями \( M_i \) и обменивается информацией через коммуникационные протоколы \( C \).

Агенты генерируют самоконтролируемые сигналы \( S_i \) из своих локальных данных и делятся ими с другими агентами, чтобы определить коллективные цели обучения, которые улучшают качество обучения.

Эта распределённая архитектура обучения способствует разнообразию представлений и повышает устойчивость к сбоям и шуму.


Определение:
«Самоконтролируемое обучение с использованием ройного интеллекта — это децентрализованный метод обучения, при котором несколько автономных агентов через взаимодействие и коллективное создание псевдометок совместно обучаются значимым представлениям данных без внешних меток.»


Источник:
Li, X., & Wang, Y. (2022). Swarm Intelligence Enhanced Self-Supervised Learning: A Decentralized Approach. Proceedings of the 36th AAAI Conference on Artificial Intelligence.