Объяснение трансферного обучения для экспертов


Трансферное обучение (Transfer Learning) в машинном обучении — это метод, при котором знания из одной исходной задачи переносятся на целевую задачу с целью улучшения качества обучения.

Это часто происходит с использованием предварительно обученных моделей, параметры которых служат отправной точкой для обучения на целевой задаче.


Основная сложность заключается в поиске подходящих представлений, которые являются обобщаемыми и предотвращают переобучение (overfitting).

Трансферное обучение включает различные сценарии, такие как обучение между доменами, многозадачное обучение и обучение с малым количеством примеров (few-shot learning).


Определение:
«Transfer learning направлено на улучшение обучения в новой задаче за счёт переноса знаний из связанной задачи, которая уже была изучена.»


Источник:
Pan, S. J., & Yang, Q. (2010). A Survey on Transfer Learning. IEEE Transactions on Knowledge and Data Engineering, 22(10), 1345-1359.