Aprendizaje auto-supervisado con representaciones de grafos explicado para expertos

El aprendizaje auto-supervisado con representaciones de grafos se refiere a una clase de métodos de aprendizaje en los que se aprenden representaciones de nodos, aristas o grafos completos mediante tareas predefinidas sin etiquetas externas.

Formalmente, se considera un grafo \( G = (V, E) \) con el conjunto de nodos \( V \) y el conjunto de aristas \( E \). El objetivo es aprender una función de incrustación \( f_ heta: V \cup E \rightarrow \mathbb{R}^d \) que capture propiedades estructurales y semánticas.

Las tareas típicas auto-supervisadas incluyen:

• Aprendizaje contrastivo, donde se distinguen pares positivos (por ejemplo, nodos y sus vecinos) de pares negativos.
• Tareas de reconstrucción, en las que se predicen partes del grafo (por ejemplo, aristas o atributos).
• Enmascaramiento de características de nodos y su predicción.

Las Redes Neuronales de Grafos (GNNs) como GCN, GAT o GraphSAGE actúan como codificadores que agregan información del vecindario local.

Definición:
«El aprendizaje auto-supervisado con representaciones de grafos es un paradigma de aprendizaje en el que se utilizan estructuras y atributos de grafos para aprender incrustaciones significativas para nodos, aristas o grafos completos mediante tareas predefinidas sin etiquetas externas.»

Fuente:
Hu, W., et al. (2020). Strategies for Pre-training Graph Neural Networks. Proceedings of the 8th International Conference on Learning Representations (ICLR).