Федеративное обучение — это децентрализованная парадигма машинного обучения, при которой множество клиентов локально обучают модели на своих приватных данных и передают только параметры модели или градиенты центральному агрегатору.
Агрегатор обычно объединяет обновления с помощью взвешенного среднего (например, Federated Averaging, FedAvg), чтобы создать глобальную модель, которая затем отправляется обратно клиентам.
Этот метод позволяет обучать модели на неоднородных и не идентично распределённых (non-IID) данных без передачи самих данных, что улучшает конфиденциальность и безопасность данных.
Важные исследовательские вопросы включают оптимизацию затрат на коммуникацию, устойчивость к ошибочным или вредоносным клиентам, а также обеспечение конфиденциальности с помощью таких техник, как дифференциальная приватность и безопасные многопартийные вычисления.
Определение:
Федеративное обучение — это метод машинного обучения, при котором несколько децентрализованных клиентов обучаются локально и отправляют только обновления модели на центральный сервер, который агрегирует их для создания общей модели без передачи исходных данных с клиентов.
Источник:
Konecny, J., McMahan, H. B., Yu, F., Richtárik, P., Suresh, A. T., & Bacon, D. (2016). Federated Learning: Strategies for Improving Communication Efficiency. arXiv preprint arXiv:1610.05492.