GCN, GraphSAGE, GAT y GNN temporales

Una red neuronal de grafos tiene exactamente un único cometido que importa: coger un nodo, mirar a sus vecinos y exprimirlos hasta obtener una mejor descripción del nodo. Un banco se define en parte por a quién presta; una cartera (wallet) se define en parte por con quién transacciona; un proveedor se define en parte por a quién envía. Todo el campo no es más que una larga discusión sobre cómo hacer ese exprimido.

Esa discusión produjo un linaje. La GCN promedia vecinos con una receta fija. GraphSAGE muestrea un puñado de ellos y aprende la receta, crucialmente sin necesitar todo el grafo de antemano. La GAT deja que el nodo decida qué vecinos merecen más de su atención. Las GNN temporales admiten la verdad incómoda de que en finanzas el grafo en sí es un objetivo en movimiento: la red de préstamos de ayer no es la de hoy.

Esta lección recorre ese linaje en orden. Cada arquitectura es una respuesta distinta a la misma pregunta, y las diferencias son exactamente las cosas que deciden si vuestro modelo sobrevive al contacto con una red financiera real, creciente y no estacionaria.

Por qué existe un linaje siquiera

Analogía. Imaginad un nodo como una persona que decide qué pensar tras hablar con sus contactos. La GCN es la persona que da a todo el mundo un voto igual y prefijado (con un ajuste cortés según lo popular que sea cada contacto). GraphSAGE es la persona que no puede hablar con todos sus contactos, así que sondea una muestra aleatoria y aprende cómo sopesar los rumores. La GAT es la persona que escucha más atentamente a los contactos que de verdad importan y desconecta del ruido. La misma sala, tres temperamentos.

Definición. Una capa GNN actualiza el vector oculto de cada nodo $h_v^{(k)}$ a partir de los vectores de la capa anterior usando dos operaciones: un agregado sobre el vecindario $\mathcal{N}(v)$, y un combinado con el vector previo del propio nodo $h_v^{(k-1)}$. Apilar $K$ de tales capas deja que la información fluya $K$ saltos: tras la capa $K$, el embedding del nodo $v$ ha sido tocado por todo lo que está a $K$ pasos en el grafo. Genéricamente,

$h_v^{(k)} = \text{COMBINE}\Big( h_v^{(k-1)},\ \text{AGG}\big(\{\,h_u^{(k-1)} : u \in \mathcal{N}(v)\,\}\big) \Big).$

Toda arquitectura de esta lección es una elección específica de AGG y COMBINE — y una postura específica sobre si el grafo es fijo, creciente, ponderado o móvil. Aquí está todo el linaje sobre un único eje antes de profundizar:

GCN — promediado fijo normalizado por grado

Analogía. La GCN es una asamblea vecinal con una regla estricta y preimpresa sobre quién habla y con qué volumen: todo el mundo tiene su turno, pero la regla baja discretamente el volumen de los charlatanes que conocen a todo el mundo (nodos de alto grado) para que no dominen. Nadie eligió la regla para la reunión de esta noche — fue la misma regla la semana pasada y lo será la siguiente.

Definición. La capa Graph Convolutional Network aplica una transformación lineal compartida $W$ a cada nodo, luego agrega sobre el vecindario incluido el propio nodo (el lazo o self-loop), cada término ponderado por una normalización simétrica fija por grado, y después pasa la suma por una no linealidad $\sigma$:

$h_v^{(k)} = \sigma\!\left( \sum_{u \in \mathcal{N}(v) \cup \{v\}} \frac{1}{\sqrt{\deg(v)\,\deg(u)}}\, W\, h_u^{(k-1)} \right).$

El factor $1/\sqrt{\deg(v)\,\deg(u)}$ es el corazón del asunto. No se aprende — se lee directamente de la estructura del grafo. Reduce el peso de las aristas que tocan nodos de alto grado para que la avalancha de conexiones de un hub no ahogue el único enlace significativo de un nodo hoja. (Para el término del lazo $u = v$ el grado incluye la self-arista añadida, pero mantenemos la aritmética sencilla más abajo.)

Ejemplo resuelto. Sea el nodo $v$ un banco pequeño con dos vecinos, $a$ y $b$, y un lazo. Supongamos (tras añadir los lazos) que los grados son $\deg(v) = 3$, $\deg(a) = 3$, $\deg(b) = 12$. Tomemos una característica unidimensional para que la aritmética sea visible, con $W = 1$ y $\sigma$ la identidad, y valores de la capa anterior $h_v = 10$, $h_a = 4$, $h_b = 1$. Los tres pesos de arista son:

Suma: $3{,}333 + 1{,}333 + 0{,}167 = 4{,}833$. Así que $h_v^{(k)} \approx 4{,}83$. Fijaos en que el vecino de alto grado $b$ obtuvo el peso más pequeño (0,167 frente a 0,333) puramente porque es un hub — la normalización por grado lo hizo automáticamente, antes de cualquier aprendizaje. El estado propio del banco (3,333) sigue dominando, pero sus dos vecinos tiraron del nuevo valor hacia los suyos.

Cuándo usarla

Recurrid a la GCN cuando el grafo sea fijo y plenamente conocido en tiempo de entrenamiento, razonablemente homogéneo, y queráis una base de referencia fuerte, barata y bien entendida — clasificación de nodos sobre una instantánea de red interbancaria estática, pongamos, donde toda institución ya está en el grafo. Es el equivalente a la regresión lineal entre las GNN: aquello que deberíais batir antes de complicaros la vida. Si van a seguir llegando nodos, la naturaleza transductiva de la GCN es la señal para bajar por el linaje.

GraphSAGE — muestrear, agregar, generalizar

Analogía. Un analista nuevo se incorpora a una firma con 50.000 relaciones de clientes. No puede leer todos los expedientes, así que aprende un hábito reutilizable: “muestrea una docena de relaciones, resúmelas y grapa ese resumen a lo que ya sé del cliente”. Ese hábito funciona con el cliente #50.001 — al que nunca ha conocido — porque aprendió el procedimiento, no una respuesta memorizada para cada cliente existente. Eso es GraphSAGE: SAmple and aggreGatE (muestrear y agregar).

Definición. Una capa GraphSAGE (1) muestrea un conjunto de tamaño fijo de vecinos de $\mathcal{N}(v)$, (2) agrega sus vectores previos con un agregador aprendible (media, pooling o incluso una LSTM), y (3) concatena el resultado con el vector previo del propio nodo antes de proyectar mediante $W$ y una no linealidad:

$h_v^{(k)} = \sigma\!\Big( W \cdot \text{CONCAT}\big(\, h_v^{(k-1)},\ \text{AGG}(\{\,h_u^{(k-1)} : u \in \mathcal{S}(v)\,\})\,\big) \Big),$

donde $\mathcal{S}(v)$ es el subconjunto muestreado de vecinos. Los dos movimientos de diseño que importan: concatenar (uno mismo y los vecinos se mantienen como mitades distintas, no se mezclan en un único promedio como en la GCN), y muestrear (un fan-out fijo mantiene acotado el coste incluso para un hub con un millón de aristas). Como la capa aprende una función en vez de un embedding por nodo, los mismos pesos entrenados embeben nodos que no existían en tiempo de entrenamiento. Esta es la propiedad llamada aprendizaje inductivo.

Ejemplo resuelto (agregador media). El nodo $v$ tiene característica $h_v = 6$ y cuatro vecinos con valores $\{2, 8, 5, 9\}$. Muestreamos dos de ellos — digamos que extraemos $\{8, 5\}$. El agregado media es $(8 + 5)/2 = 6{,}5$. Concatenamos con uno mismo: la entrada de la capa es el par $(6,\ 6{,}5)$. Con una proyección minúscula $W = [0{,}5,\ 0{,}5]$ (de modo que promedia las dos mitades) y $\sigma$ identidad:

$h_v^{(k)} = 0{,}5 \cdot 6 + 0{,}5 \cdot 6{,}5 = 3{,}0 + 3{,}25 = 6{,}25.$

Ahora supongamos que el siguiente paso de entrenamiento muestrea un par distinto, $\{2, 9\}$: el agregado es $(2+9)/2 = 5{,}5$, y $h_v^{(k)} = 0{,}5 \cdot 6 + 0{,}5 \cdot 5{,}5 = 5{,}75$. Mismo nodo, mismos pesos, respuesta distinta — porque la muestra cambió.

Cuándo usarla

GraphSAGE es la opción por defecto realista en finanzas, porque los grafos financieros crecen: nuevos bancos se constituyen, aparecen nuevas carteras, nuevos proveedores entran en la red cada día, y hace falta puntuarlos sin reentrenar el mundo. Usadla cuando el conjunto de nodos sea abierto, cuando los hubs sean demasiado grandes para agregarse por completo, o cuando entrenéis en un periodo y debáis desplegar sobre grafos posteriores y mayores. Si vuestro grafo es genuinamente fijo y pequeño, la exactitud de la GCN puede ganar al ruido de muestreo de SAGE — pero eso es la excepción en finanzas, no la regla.

GAT — aprender qué vecinos importan

Analogía. La GCN da a todo el mundo un voto ajustado por grado pero por lo demás igual. La GAT contrata un equipo que lee la sala y decide, por conversación, la opinión de quién ponderar: a la contraparte que os expone a $2.000 millones se la escucha con atención; la cuenta molesta de $10.000 recibe un asentimiento cortés. Crucialmente, el equipo aprendió cómo asignar esa atención de datos pasados — no se le dijo “tamaño igual importancia”, descubrió qué aspecto tiene la importancia.

Definición. Una capa Graph Attention Network calcula, para cada arista $v \leftarrow u$, un coeficiente de atención $\alpha_{vu}$ aprendido y normalizado, y luego agrega los vecinos como una suma ponderada por atención. Los coeficientes provienen de un softmax sobre puntuaciones aprendidas $e_{vu}$:

$\alpha_{vu} = \frac{\exp(e_{vu})}{\sum_{w \in \mathcal{N}(v) \cup \{v\}} \exp(e_{vw})}, \qquad h_v^{(k)} = \sigma\!\left( \sum_{u \in \mathcal{N}(v) \cup \{v\}} \alpha_{vu}\, W\, h_u^{(k-1)} \right).$

La puntuación cruda $e_{vu}$ la produce una pequeña función aprendible de los dos vectores transformados de los extremos $W h_v$ y $W h_u$ (en la GAT original, una red prealimentada de una sola capa sobre su concatenación, con una LeakyReLU). El softmax garantiza que los pesos sobre el vecindario de un nodo son no negativos y suman uno. La atención multicabeza ejecuta varios mecanismos de atención independientes en paralelo y concatena (o promedia) sus salidas, lo que estabiliza el entrenamiento igual que varios analistas se contrastan entre sí.

Ejemplo resuelto (softmax sobre 3 vecinos). El nodo $v$ tiene tres vecinos con puntuaciones crudas aprendidas $e = \{2{,}0,\ 1{,}0,\ 0{,}0\}$ y valores por vecino $h = \{10,\ 4,\ 1\}$. Exponenciamos: $e^{2{,}0} \approx 7{,}389$, $e^{1{,}0} \approx 2{,}718$, $e^{0{,}0} = 1{,}000$. Su suma es $7{,}389 + 2{,}718 + 1{,}000 = 11{,}107$. Los pesos de atención son:

Los pesos suman $0{,}665 + 0{,}245 + 0{,}090 = 1{,}000$, como debe hacer un softmax. El agregado ponderado por atención (tomando $W = 1$, $\sigma$ identidad) es $6{,}65 + 0{,}98 + 0{,}09 = 7{,}72$ — dominado por el vecino 1, cuya mayor puntuación aprendida le valió dos tercios de la atención. Contrastad una media simple, $(10 + 4 + 1)/3 = 5{,}0$: la ponderación aprendida de la GAT tiró del resultado con fuerza hacia el vecino que el modelo decidió que era importante.

La atención es la misma idea que ya conocéis del eje temporal — asignar pesos a otros y sumar en consecuencia. El mapa de calor de abajo muestra atención distribuida sobre el tiempo; una GAT hace exactamente el mismo truco sobre los vecinos de un nodo: un peso aprendido por relación, pasado por softmax para sumar uno, con los enlaces de alto peso dominando el agregado.

Cuándo usarla

Usad la GAT cuando los vecinos sean genuinamente desiguales en importancia y esa importancia sea aprendible — grafos de riesgo de crédito donde una única contraparte dominante impulsa el contagio, redes de transacciones heterogéneas, anillos de fraude donde unas pocas aristas portan la señal. Brilla cuando la normalización por grado (GCN) o el muestreo uniforme (SAGE) tratan erróneamente una arista crítica como cualquier otra. Saltáosla cuando vuestro tamaño de muestra efectiva sea minúsculo, el grafo sea casi homogéneo, o un modelo más barato ya supere el listón — los parámetros extra son un impuesto que pagáis en datos que quizá no tengáis.

GNN temporales / dinámicas — cuando el grafo se mueve

Analogía. Una GNN estática sobre una red financiera es una única foto de larga exposición de un cruce concurrido: cada coche que pasó alguna vez queda emborronado en un único difuminado fantasmal, y no podéis distinguir la hora punta de las 3 de la madrugada. Una GNN temporal es un vídeo — una secuencia de fotogramas nítidos — de modo que podéis ver cómo la red de préstamos se tensa antes de una crisis y se afloja después, en vez de promediar el pánico y la calma en un único gris sin sentido.

Definición. Las GNN temporales (dinámicas) modelan un grafo que cambia con el tiempo. Hay dos grandes familias:

• Basadas en instantáneas (tiempo discreto). Trocead el tiempo en ventanas, construid un grafo por ventana, embeded cada uno con una GNN, y luego ejecutad un modelo de secuencia a través de las instantáneas — una GRU, LSTM, o atención temporal. Esquemáticamente, un embedding por porción alimenta una recurrencia:

$z_v^{(t)} = \text{GNN}\big(G^{(t)}\big)_v, \qquad h_v^{(t)} = \text{GRU}\big(h_v^{(t-1)},\ z_v^{(t)}\big).$

• Tiempo continuo (basadas en eventos). Saltaos las instantáneas e ingerid eventos con marca temporal directamente — cada arista nueva (un préstamo a las 14:32, una transferencia a las 14:33) actualiza los embeddings de los nodos que toca según llega. Esto preserva el momento exacto y el espaciado irregular que las instantáneas fijas desechan.

Este es el matrimonio deliberado de dos ejes que habéis estado construyendo todo este tiempo: el eje relacional (una GNN, que resume quién está conectado con quién) y el eje temporal (una RNN o atención, que resume cómo evolucionan las cosas), la misma maquinaria temporal de Aprendizaje profundo para datos de mercado, ahora apilada encima del paso de mensajes.

Ejemplo ilustrativo — una secuencia de préstamos de 5 días. Seguid a los vecinos de endeudamiento interbancario de un banco a lo largo de una semana. Cada día es una instantánea $G^{(t)}$; la embebemos (digamos con GraphSAGE) en un vector por día $z^{(t)}$, y luego una GRU lleva el estado hacia delante:

Una GNN estática sobre el grafo promediado en el tiempo reportaría algo como ”≈ 7,4 aristas de media, embedding ≈ 0,46” — un único número que oculta por completo el colapso de lunes a viernes de 12 aristas a 3. El modelo temporal ve la trayectoria (0,20 → 0,22 → 0,41 → 0,68 → 0,79) y puede señalar la retirada acelerada de financiación como una tendencia, que es precisamente la señal que a una mesa de riesgos le importa.

Cuándo usarlas

Usad una GNN temporal siempre que la topología de la red en sí evolucione y esa evolución porte señal — propagación de estrés de financiación, disrupción de la cadena de suministro extendiéndose enlace a enlace, anillos de fraude que se ensamblan y disuelven, grafos de correlación que cambian de régimen. Elegid instantánea + modelo de secuencia cuando los eventos se agrupen de forma natural en periodos (posiciones diarias, exposiciones semanales) y queráis simplicidad; elegid tiempo continuo cuando el momento exacto y el espaciado irregular de eventos importen (flujos de liquidación de alta frecuencia, transferencias intradía). Si el grafo genuinamente no cambia a lo largo de vuestro horizonte, una GNN estática es más simple y está bien — pero en finanzas, “el grafo no cambia” es una hipótesis que comprobar, no asumir.

Todo el linaje en una tabla

Las cuatro arquitecturas puestas una al lado de otra — la comparación que conviene tener cuando elegís:

Resumen

Habéis recorrido el linaje de una receta fija a un objetivo en movimiento. La GCN promedia vecinos con una regla normalizada por grado que nadie aprendió y todo el grafo debe estar presente — limpia, barata, transductiva. GraphSAGE muestrea un puñado de vecinos, aprende el agregador, concatena uno mismo con los vecinos, y se gana la propiedad que más importa en una red financiera creciente: es inductiva, embebiendo bancos y carteras que nunca vio en entrenamiento. La GAT deja que cada nodo aprenda, vía un softmax sobre puntuaciones, qué vecinos merecen su atención — potente donde un acreedor dominante de verdad importa, pero ávida de parámetros y no la explicación gratis que parece. Y las GNN temporales admiten que el propio grafo se mueve, casando el eje relacional con el temporal de modo que un colapso de financiación se lee como una trayectoria, no como una media emborronada.