Графовые нейронные сети для экспертов

Графовые нейронные сети (GNN) — это нейронные модели, работающие с графами G = (V, E), где V — множество узлов, а E — множество рёбер.

Основная операция в GNN — итеративная передача сообщений (Message Passing), при которой для каждого узла v ∈ V вычисляется улучшенный вектор представления узла h_v^{(k)} на k-м слое путём агрегации представлений его соседей:

h_v^{(k)} = σ \left( W^{(k)} \cdot \text{AGGREGATE} \left( \{ h_u^{(k-1)} : u \in \mathcal{N}(v) \} \right) + b^{(k)} \right)

Здесь σ — функция активации, W^{(k)} и b^{(k)} — обучаемые параметры, а \mathcal{N}(v) — соседство узла v.

Функция агрегации может принимать различные формы, например, среднее, сумму или взвешенные комбинации, как в Graph Attention Networks (Velickovic et al., 2018).

GNN позволяют моделировать сложные реляционные структуры и успешно применяются во многих областях, включая хемоинформатику, социальные сети и графы знаний.

Определение:
Графовые нейронные сети — это нейронные сети, которые обучаются путём итеративной агрегации и трансформации информации о соседях в графах для создания представлений узлов, рёбер или всего графа.

Источник:
Wu, Z., Pan, S., Chen, F., Long, G., Zhang, C., & Philip, S. Y. (2021). A Comprehensive Survey on Graph Neural Networks. IEEE Transactions on Neural Networks and Learning Systems.