Modelos recurrentes: RNN, LSTM y GRU

En la lección pasada vimos cómo un perceptrón multicapa tropezaba en finanzas: con un tamaño de muestra efectivo minúsculo (unos pocos cientos de regímenes no solapados escondidos tras miles de filas autocorrelacionadas), o memorizaba ruido o no aprendía nada. Pero el MLP tenía un pecado más profundo — trataba cada día como una bolsa desordenada de características. No sabía que el ayer venía antes que el hoy.

Los mercados son secuencias. Los rendimientos llegan en orden, la volatilidad se agrupa (vuestra lección de GARCH) y el shock de ayer se filtra hasta hoy. El arreglo natural es un modelo que lea la serie paso a paso, arrastrando una memoria en curso — un resumen de todo lo que ha visto hasta ahora. Eso es exactamente lo que hace una red neuronal recurrente. Si ayuda más de lo que perjudica es la pregunta que iremos pinchando.

La celda recurrente y el desenrollado

Una celda recurrente mantiene un estado oculto $h_t$ — su resumen mental hasta el momento — y lo actualiza a medida que llega cada nueva entrada $x_t$:

$h_t = \tanh\left(W x_t + U h_{t-1} + b\right)$

Léelo de izquierda a derecha: la nueva entrada $x_t$ se transforma con $W$, la memoria antigua $h_{t-1}$ se transforma con $U$, sumas un sesgo $b$ y lo aplastas con $\tanh$ para mantener los valores en $[-1, 1]$. Una salida (digamos, una predicción de rendimiento) se lee de $h_t$ mediante otra capa lineal. Las matrices $W$, $U$, $b$ son las mismas en cada paso — son la celda, y la celda es el modelo.

Analogía. Estás leyendo una frase. No relees todo el párrafo en cada palabra — mantienes una idea general en la cabeza y la actualizas con cada palabra nueva. $h_{t-1}$ es tu idea antes de la palabra actual, $x_t$ es la palabra, $h_t$ es tu idea actualizada. “Desenrollar” no es más que dibujar a ese único lector como una cadena de copias, una por palabra — pero sigue siendo un solo lector, no un comité de $T$ lectores.

Ejemplo resuelto

Toma una celda de juguete escalar: $W = 0.5$, $U = 0.8$, $b = 0$, y una secuencia de rendimientos $x_1 = 1.0$, $x_2 = -0.5$. Empieza con $h_0 = 0$.

• Paso 1: $h_1 = \tanh(0.5 \cdot 1.0 + 0.8 \cdot 0) = \tanh(0.5) \approx 0.462$.
• Paso 2: $h_2 = \tanh(0.5 \cdot (-0.5) + 0.8 \cdot 0.462) = \tanh(-0.25 + 0.370) = \tanh(0.120) \approx 0.119$.

Fíjate en que $h_2$ depende de $x_1$ solo a través de $h_1$ — la memoria es el canal por el que el pasado alcanza el presente. Rompe ese canal y la historia desaparece.

Cuándo usarlo

Recurre a la recurrencia cuando el orden lleva información de verdad y la misma regla de actualización local deba aplicarse en cada paso: flujo de órdenes tick a tick, barras intradía, una ventana móvil de rendimientos que alimenta una previsión del paso siguiente. Si tus características son un corte transversal desordenado (valor de hoy, momentum, puntuaciones de calidad para 500 acciones), la recurrencia no te aporta nada — ese es trabajo para el MLP o, más probablemente, para árboles potenciados por gradiente.

El gradiente que se desvanece (y explota)

Para entrenar, retropropagamos la pérdida a través de la cadena desenrollada — retropropagación a través del tiempo (BPTT, backpropagation through time). La regla de la cadena dice que el gradiente de una pérdida tardía respecto a un estado oculto temprano es un producto de una jacobiana por paso:

$\frac{\partial h_T}{\partial h_t} = \prod_{k=t+1}^{T} \frac{\partial h_k}{\partial h_{k-1}}$

Si cada factor tiene una magnitud aproximada de $\rho$, el producto entero escala como $\rho^{\,T-t}$. Los productos de muchos números son implacables: un poco por debajo de 1 y se colapsan hacia cero (se desvanece); un poco por encima de 1 y detonan (explota).

Analogía. Un rumor susurrado que va pasando por una fila de personas. Si cada persona conserva el 60 % del mensaje, después de 20 personas casi nada del original sobrevive — eso es desvanecerse. Si cada persona lo exagera 1,2×, después de 20 personas tienes una teoría de la conspiración a gritos — eso es explotar.

Ejemplo resuelto

Supón que el factor típico por paso es $\rho = 0.6$. A lo largo de $T = 20$ pasos el gradiente hacia la primera entrada escala por

$0.6^{20} = e^{20 \ln 0.6} = e^{20 \cdot (-0.511)} = e^{-10.2} \approx 3.6 \times 10^{-5}.$

El pasado lejano aporta esencialmente nada a la actualización de pesos — el modelo es estructuralmente ciego a dependencias más antiguas que un puñado de pasos. Ahora dale la vuelta: $\rho = 1.2$ da $1.2^{20} \approx 38.3$, y a lo largo de 60 pasos $1.2^{60} \approx 5.6 \times 10^{4}$ — un gradiente que se desborda y produce pérdidas NaN.

El caso de la explosión tiene un parche barato — recorte de gradiente (gradient clipping): si la norma del gradiente supera un umbral $\tau$, lo reescalas a $\tau$ antes de la actualización. Eso pone tope a la explosión. El desvanecimiento no tiene tal parche; no puedes reescalar un gradiente casi nulo de vuelta a algo informativo, porque la señal se ha ido, no solo la magnitud. Esa asimetría es la razón por la que la propia arquitectura tuvo que cambiar.

Vuelve a mirar la isla principal: activa RNN simple y arrastra el deslizador de longitud hacia fuera. Observa cómo el sombreado de la contribución de la primera entrada se desvanece hasta casi negro en una docena de pasos — eso es $\rho^{T}$ renderizado como opacidad.

Cuándo usarlo

Una RNN simple va bien cuando la dependencia genuina es corta (unos pocos pasos) y quieres un modelo de secuencia barato y de pocos parámetros — a veces una virtud en muestras financieras minúsculas. En cuanto sospeches de una dependencia que abarque decenas de pasos (un cambio de régimen lento, una acumulación de volatilidad de varios días), la RNN simple es la herramienta equivocada, y te gradúas a una celda con puertas.

LSTM: la autopista del estado de celda

La celda de Memoria a Largo y Corto Plazo (LSTM, Long Short-Term Memory) mantiene dos estados: el habitual estado oculto $h_t$ y un estado de celda separado $c_t$ — una cinta transportadora protegida para la información de largo plazo. Tres puertas sigmoideas (cada una emite valores en $[0,1]$, es decir, “cuánto dejar pasar”) lo regulan:

• Puerta de olvido $f_t$ — cuánto del estado de celda antiguo conservar.
• Puerta de entrada $i_t$ — cuánto del nuevo candidato escribir.
• Puerta de salida $o_t$ — cuánto del estado de celda exponer como $h_t$.

El candidato es $\tilde{c}_t = \tanh(W_c x_t + U_c h_{t-1} + b_c)$, y el estado de celda se actualiza de forma aditiva:

$c_t = f_t \odot c_{t-1} + i_t \odot \tilde{c}_t, \qquad h_t = o_t \odot \tanh(c_t)$

($\odot$ es la multiplicación elemento a elemento.) Esa suma es todo el truco. El camino de $c_{t-1}$ a $c_t$ es aproximadamente multiplicar por $f_t$, y si la celda aprende $f_t \approx 1$, el gradiente a lo largo de la cinta se multiplica por ~1 en cada paso en lugar de por ~$\rho < 1$. La autopista de información se mantiene abierta.

Analogía. La RNN simple obliga a cada recuerdo a pasar por un mezclador tanh con pérdidas en cada paso — como fotocopiar una fotocopia. La LSTM añade un sobre sellado (el estado de celda) que puedes elegir llevar contigo intacto, abriéndolo (puerta de salida) o editándolo (puerta de entrada) solo cuando tú decidas.

Ejemplo resuelto

Compara la supervivencia de largo alcance de un factor simple frente a una puerta de olvido de LSTM. Supón que la celda aprende $f_t = 0.97$. A lo largo de 20 pasos la contribución del estado de celda escala por

$0.97^{20} = e^{20 \ln 0.97} = e^{20 \cdot (-0.03046)} = e^{-0.609} \approx 0.54.$

Aproximadamente la mitad de la señal sobrevive 20 pasos. El $0.6^{20} \approx 3.6\times10^{-5}$ de la RNN simple ya se ha desvanecido por seis órdenes de magnitud. Empuja hasta 60 pasos: $0.97^{60} \approx 0.16$ sigue siendo significativo, frente a $0.6^{60} \approx 4.7\times10^{-14}$ — muerto.

La puerta de olvido no está fijada en 0,97 — se aprende paso a paso, así que la celda puede mantener un recuerdo abierto a lo largo de un régimen y cerrarlo de golpe cuando el régimen se rompe. Esa adaptabilidad es lo que el $\rho^T$ en bruto nunca puede hacer.

Cuándo usarlo

Usa una LSTM cuando tengas dependencia de largo alcance genuina y datos suficientes para alimentar los parámetros extra — series de alta frecuencia o intradía donde las muestras abundan, o secuencias donde mantener un estado abierto durante decenas de pasos importe claramente. Sobre unos pocos cientos de regímenes diarios no solapados, una LSTM suele estar sobrearmada; regulariza con agresividad o recurre al primo más esbelto de abajo.

GRU: el primo simplificado

La GRU es la LSTM después de una dieta. Mantiene un único vector de estado (sin estado de celda separado) y usa solo dos puertas:

• Puerta de actualización $z_t$ — cuánto del estado antiguo conservar frente a sobrescribir (hace el trabajo de olvido y de entrada a la vez).
• Puerta de reinicio $r_t$ — cuánto del estado pasado dejar entrar en el nuevo candidato.

$\tilde{h}_t = \tanh\!\big(W x_t + U (r_t \odot h_{t-1}) + b\big), \qquad h_t = (1 - z_t)\odot h_{t-1} + z_t \odot \tilde{h}_t$

Esa mezcla convexa $h_t = (1-z_t)h_{t-1} + z_t\tilde{h}_t$ es la autopista de la GRU: cuando $z_t \approx 0$ el estado se arrastra casi intacto (memoria larga), cuando $z_t \approx 1$ se reescribe por completo (reacciona a un shock). El mismo truco del camino aditivo que la LSTM, con menos piezas móviles.

Analogía. Si la LSTM es un coche con acelerador, freno y una guantera sellada por separado, la GRU es un coche eléctrico con un único pedal regenerativo que acelera y frena a la vez. Menos controles, normalmente igual de buena la conducción.

Ejemplo resuelto

El número de parámetros es el titular. Para un tamaño oculto $H$ y un tamaño de entrada $D$, los bloques recurrentes necesitan aproximadamente:

Con $D = 10$ entradas y $H = 32$ unidades ocultas, un bloque es $32(10+32)+32 = 1376$. Así que GRU $\approx 4128$ y LSTM $\approx 5504$ parámetros recurrentes — la GRU ahorra ~25 %. En un conjunto de datos con unos pocos cientos de observaciones efectivas, cada parámetro que no tienes es un parámetro que no puedes sobreajustar. Por eso las GRU frecuentemente igualan o superan a las LSTM en series financieras pequeñas y ruidosas a pesar de ser “menos potentes”.

Cuándo usarlo

Opta por la GRU sobre la LSTM por defecto cuando los datos sean escasos y quieras puertas sin la hinchazón de parámetros — lo que describe la mayoría de los problemas financieros de frecuencia diaria. Prefiere la LSTM solo cuando tengas datos abundantes y empíricamente descubras que su puerta extra se gana su sitio (a veces cierto en secuencias muy largas y ricas en información, como flujos completos de libro de órdenes).

¿Ayudan realmente las RNN en finanzas?

Aquí viene la parte aleccionadora. Todo lo de arriba es elegante — y en la mayoría de los problemas financieros, una RNN todavía pierde frente a un árbol potenciado. ¿Por qué?

• Muestra efectiva minúscula (vuelta a la lección 1). Recuerda: miles de filas diarias autocorrelacionadas colapsan a unos pocos cientos de regímenes independientes y no solapados. Las redes recurrentes tienen más parámetros que un MLP y los mismos datos famélicos — el riesgo de sobreajuste sube, no baja.
• Entrenamiento secuencial, no paralelizable. BPTT debe procesar los pasos en orden; no puedes paralelizar a lo largo del eje del tiempo como sí pueden un Transformer o un barrido de divisiones de árbol. El entrenamiento es lento, lo que significa menos experimentos, lo que significa más sobreajuste vía grados de libertad del investigador (tus instintos de Sharpe deflactado deberían estar haciendo tic).
• Los árboles y las TCN te comen el bocadillo. Los árboles potenciados por gradiente devoran características de rezago diseñadas y son tremendamente eficientes en muestras. Las Redes Convolucionales Temporales (TCN, convoluciones causales dilatadas) consiguen campos receptivos largos con paralelismo total y a menudo mejor estabilidad que las RNN.

¿Dónde se ganan de verdad su sitio las redes recurrentes? Datos grandes, estructurados y de mayor frecuencia con rica microestructura secuencial: secuencias de libro de órdenes (LOB), flujos de ticks, secuencias de eventos intradía — lugares donde las muestras abundan y el orden de los micro-eventos lleva señal de verdad. Allí el problema de la muestra efectiva se alivia y el sesgo inductivo de secuencia rinde.

Cuándo usarlo

Usa un modelo recurrente en finanzas cuando (1) los datos sean de alta frecuencia o por lo demás grandes en muestra efectiva, (2) la microestructura secuencial plausiblemente lleve señal, y (3) ya hayas confirmado que una línea base más simple (lineal regularizada, GBM, TCN) no domina. Si no, el valor por defecto honesto es: empieza con árboles, y haz que la RNN demuestre que aporta valor fuera de muestra. Regulariza con dureza en cualquier caso — dropout, decaimiento de pesos, tamaños ocultos minúsculos, ventanas cortas.

Repaso