Few-Shot Learning se refiere al problema de entrenar un modelo f_θ para que pueda resolver rápidamente nuevas tareas T_j con solo unos pocos ejemplos S_j = {(x_i, y_i)}_{i=1}^k, donde k es pequeño (por ejemplo, de 1 a 5).
Formalmente, esto se formula a menudo en el marco del meta-aprendizaje, donde existe una distribución sobre tareas p(T) y el objetivo es minimizar la función de pérdida esperada sobre nuevas tareas:
\[ \min_\theta \mathbb{E}_{T \sim p(T)} \left[ \mathcal{L}_{T} (f_\theta) \right] \]
Algoritmos conocidos son Model-Agnostic Meta-Learning (MAML), que generaliza a nuevas tareas mediante pocas actualizaciones de gradiente, así como Prototypical Networks, que utilizan representaciones como centros de clase en el espacio de características.
Few-Shot Learning aborda desafíos centrales de generalización y eficiencia de datos en sistemas de aprendizaje automático.
Definición:
«Few-Shot Learning es un paradigma de aprendizaje en el que los modelos se entrenan para generalizar a nuevas tareas con muy pocos ejemplos de entrenamiento.»
Fuente:
Wang, Y., Yao, Q., Kwok, J. T., & Ni, L. M. (2020). Generalizing from a Few Examples: A Survey on Few-Shot Learning. ACM Computing Surveys, 53(3), 63.