Federated Learning explicado para expertos


Federated Learning es un paradigma de aprendizaje automático descentralizado, en el que una multitud de clientes entrenan modelos localmente con sus datos privados y solo envían parámetros del modelo o gradientes a un agregador central.

El agregador combina las actualizaciones típicamente mediante un promedio ponderado (por ejemplo, Federated Averaging, FedAvg) para crear un modelo global que luego se envía de vuelta a los clientes.

Este procedimiento permite entrenar modelos con datos no idénticamente distribuidos (non-IID) y heterogéneos, sin transferir los datos en sí, mejorando así la privacidad y la seguridad de los datos.

Las preguntas clave de investigación incluyen la optimización de los costes de comunicación, la robustez frente a clientes defectuosos o maliciosos, así como la garantía de privacidad mediante técnicas como Differential Privacy y Secure Multi-Party Computation.


Definición:
Federated Learning es un método de aprendizaje automático en el que varios clientes descentralizados entrenan localmente y solo envían sus actualizaciones del modelo a un servidor central que las agrega para crear un modelo común, sin que los datos en bruto abandonen los clientes.


Fuente:
Konecny, J., McMahan, H. B., Yu, F., Richtárik, P., Suresh, A. T., & Bacon, D. (2016). Federated Learning: Strategies for Improving Communication Efficiency. arXiv preprint arXiv:1610.05492.