Autocodificadores variacionales para datos de mercado

El GAN de la lección anterior era un peleón: nítido, rápido y propenso a lanzar el mismo puñetazo una y otra vez (colapso de modos). El autocodificador variacional (VAE) es el hermano más tranquilo. En lugar de un generador y un crítico trabados en combate, un VAE tiene dos mitades que cooperan: un codificador que comprime una ventana de precios hasta un diminuto código latente, y un decodificador que intenta reconstruir la ventana a partir de ese código. Entrénalos juntos y la red aprende un resumen compacto y reutilizable de “qué aspecto tiene una ventana de precios plausible”.

El ingrediente extra ingenioso — la parte variacional — es que el VAE no se limita a aprender un código, sino que aprende un espacio de códigos suave y muestreable. Fuerza a ese espacio latente a parecer una nube ordenada con forma de campana, de modo que puedes meter la mano, sacar un código completamente nuevo que nunca has visto, decodificarlo y obtener una trayectoria novedosa pero plausible. Eso es lo que convierte a un humilde compresor en un modelo generativo: entran códigos nuevos, salen datos de mercado nuevos.

El contraste con los GAN recorre toda esta lección. Los VAE son estables (sin tira y afloja adversario que equilibrar), te entregan un latente interpretable que puedes interpolar y dirigir, y casi nunca colapsan a un único modo. Pero lo pagan: sus muestras tienden a salir blandas y demasiado suavizadas — y “suave” es exactamente la palabra equivocada cuando todo el trabajo consiste en reproducir las colas anchas que hacen peligrosos a los mercados. Ten presente esa tensión; la última sección es donde muerde.

De autocodificadores a autocodificadores variacionales

Un autocodificador corriente es una máquina de comprimir-y-reconstruir. El codificador mapea una entrada $x$ (digamos, una ventana de 60 días de retornos logarítmicos) a un código de baja dimensión $z$; el decodificador mapea $z$ de vuelta a una reconstrucción $\hat{x}$. Lo entrenas para que $\hat{x} \approx x$. Aprende una compresión estupenda — pero no aprende nada sobre la forma del espacio latente. Los puntos codificados aterrizan dondequiera que los ponga la minimización del error de reconstrucción, dejando vastas regiones vacías entre medias. Muestrea un código al azar y casi con seguridad has aterrizado en un agujero, y el decodificador te entrega un sinsentido.

Analogía. Piensa en el espacio latente como un archivador. Un autocodificador corriente es un archivador llenado por alguien con prisa: cada documento está archivado en algún sitio, y puede recuperar cualquiera que haya visto, pero los cajones tienen enormes huecos vacíos y ningún sistema. Pide “el archivo a medio camino entre estos dos” y sacas un espacio vacío. Un VAE es el archivador de un organizador obsesivo: los archivos están repartidos de forma uniforme y continua, cada sitio en el que metes la mano contiene algo sensato, y los sitios vecinos contienen cosas parecidas.

El VAE consigue esto con dos cambios:

1. El codificador no produce un único punto sino una distribución por dimensión latente — una media $\mu$ y una (log-)varianza $\sigma^2$. Así que $x$ se mapea a $q(z \mid x) = \mathcal{N}(\mu, \sigma^2)$, una pequeña bola difusa en lugar de un punto preciso.
2. Un regularizador atrae cada una de esas bolas hacia una distribución a priori normal estándar compartida $\mathcal{N}(0, I)$. Esto empaqueta las bolas juntas para teselar el espacio sin agujeros, de modo que toda la región cerca del origen pasa a ser muestreable.

En el momento de la generación ignoras por completo el codificador: extrae $z \sim \mathcal{N}(0, I)$, pásalo por el decodificador, y sale una ventana de precios fresca y plausible.

Cuándo usarlo

Recurre al enfoque de autocodificador siempre que quieras a la vez un compresor (una representación compacta de ventanas de mercado para modelos posteriores) y un generador a partir de la misma red. Si solo necesitas reconstruir o quitar ruido — nunca muestrear datos nuevos — un autocodificador corriente es más ligero. En el momento en que necesitas extraer trayectorias novedosas, necesitas la maquinaria variacional.

El ELBO: reconstrucción frente a KL

Un VAE se entrena maximizando la cota inferior de la evidencia (ELBO), o de forma equivalente minimizando su negativa. Para una sola entrada $x$ la pérdida es:

Dos fuerzas, tirando en sentidos opuestos:

• La reconstrucción quiere que $\hat{x}$ coincida con $x$ — codificaría con gusto cada ventana a su propio código privado y remoto si eso diera una reconstrucción más nítida.
• La KL quiere que cada posterior $q(z \mid x)$ se sitúe cerca de la a priori $p(z) = \mathcal{N}(0, I)$ — colapsaría con gusto cada entrada al mismo código insulso en el origen si eso minimizara la divergencia.

El coeficiente $\beta$ es el mando entre ambas ($\beta = 1$ recupera el VAE original; el caso general es el $\beta$-VAE). Observa los extremos:

Ejemplo resuelto. Supón que con $\beta = 1$ tu VAE reconstruye una ventana con un error cuadrático medio de $0.018$ y una KL de $12.4$ nats, pérdida total $\approx 0.018 + 12.4$. Sube $\beta$ a $8$. El optimizador encuentra ahora más barato encoger la KL: empuja cada posterior hacia $\mathcal{N}(0, I)$, el latente deja de llevar información sobre $x$, y el decodificador — sin recibir señal útil — recurre a emitir la ventana media para cada entrada. El error de reconstrucción se dispara (digamos a $0.061$) pero la pérdida total baja porque el término KL se desplomó. Ese estado degenerado es el colapso de la posterior, y su síntoma sobre el papel es el difuminado: cada muestra parece un borrón descolorido y de reversión a la media.

Cuándo usarlo

Trata $\beta$ como un dial que ajustas al trabajo. Empujar $\beta$ por encima de 1 compra un latente más desenredado y controlable (bueno para los mandos de escenario de abajo) a costa de la fidelidad. Tirar de él hacia 0 compra reconstrucciones más nítidas a costa de la muestreabilidad. Para datos de mercado, donde ya peleas contra el difuminado, rara vez quieres un $\beta$ grande salvo que necesites específicamente ejes latentes limpios y dirigibles.

El truco de reparametrización

Aquí está la pega. El entrenamiento necesita gradientes de la pérdida respecto a las salidas $\mu$ y $\sigma$ del codificador. Pero entre el codificador y la pérdida se interpone una extracción aleatoria $z \sim \mathcal{N}(\mu, \sigma^2)$, y no puedes retropropagar a través de “tirar un dado”. La aleatoriedad bloquea el gradiente.

El truco consiste en apartar la aleatoriedad de en medio. En lugar de muestrear $z$ directamente, muestrea una variable de ruido fija y sin parámetros $\epsilon \sim \mathcal{N}(0, I)$ y construye $z$ de forma determinista a partir de ella:

donde $\odot$ es la multiplicación elemento a elemento. Ahora $z$ es una función diferenciable de $\mu$ y $\sigma$ — lo único aleatorio, $\epsilon$, es una entrada externa que no lleva ningún gradiente ni parámetros aprendibles. La estocasticidad ha quedado empujada fuera del grafo de cómputo.

Analogía. No puedes derivar “girar una ruleta”. Pero sí puedes derivar “toma un giro aleatorio fijo $\epsilon$, luego estíralo por $\sigma$ y desplázalo por $\mu$”. El casino sigue inyectando aleatoriedad — simplemente has movido tus mandos ajustables ($\mu$, $\sigma$) a donde el cálculo puede alcanzarlos.

Ejemplo resuelto. Toma una dimensión latente. La regla de la cadena fluye ahora limpiamente, porque $z = \mu + \sigma \epsilon$:

Así que si el gradiente aguas arriba de la pérdida en $z$ es $g = \partial \mathcal{L} / \partial z$, entonces $\partial \mathcal{L} / \partial \mu = g \cdot 1 = g$ y $\partial \mathcal{L} / \partial \sigma = g \cdot \epsilon$. En concreto, con un $\epsilon = 0.7$ muestreado y un $g = -0.4$ aguas arriba, la media del codificador recibe gradiente $-0.4$ y su desviación típica recibe $-0.4 \times 0.7 = -0.28$. Ambos son finitos, ambos son utilizables — el entrenamiento avanza.

Cuándo usarlo

Siempre, para un VAE de latente gaussiano — no es opcional. La misma idea generaliza: cada vez que un modelo debe diferenciar a través de un paso de muestreo, busca una reescritura del tipo “muestrea ruido fijo, luego transforma de forma determinista” (la misma lógica impulsa el calendario de ruido que conocerás en la lección de difusión).

Un latente suave compra mandos de escenario

Un latente agujereado no sirve para nada más que para los puntos que memorizó. Un latente suave es un patio de recreo. Como cada código cercano decodifica a algo sensato y parecido, el espacio adquiere una geometría útil — y esa geometría es lo que convierte a un VAE en un generador de escenarios (recuerda los usos de datos sintéticos de la lección 1: pruebas de estrés, aumento de datos, compartición respetuosa con la privacidad).

Dos movimientos que el latente suave te da gratis:

• Interpolación. Codifica una ventana en calma al código $z_{\text{calm}}$ y una turbulenta a $z_{\text{turb}}$, luego decodifica la mezcla en línea recta $z(t) = (1 - t)\, z_{\text{calm}} + t\, z_{\text{turb}}$ con $t$ barriendo de 0 a
  1. Cada $z(t)$ decodificado es una ventana plausible entre los dos regímenes — mercados más calmados que la tormenta pero más agitados que la calma chicha. Las interpolaciones de un autocodificador corriente pasan por agujeros y decodifican a papilla.
• Direcciones latentes como diales. Si un eje concreto del latente correlaciona con la volatilidad realizada, sumar un múltiplo de esa dirección a un código sube o baja la turbulencia dejando otras características más o menos intactas — un mando de “subir la vol” listo para usar en escenarios de estrés.

Ejemplo resuelto (conceptual). Quieres una trayectoria de estrés que sea “este trimestre, pero un 50% más áspera”. Codifica el trimestre a $z_0$. Encuentra la dirección de volatilidad $v$ (p. ej. el eje latente a lo largo del cual las ventanas decodificadas se vuelven más agitadas). Decodifica $z_0 + 0.5\,v$. Sale el mismo régimen general — misma deriva, misma forma áspera — pero con bandazos intradía visiblemente más anchos, listo para alimentar un motor de riesgo. Generaste un escenario contrafactual dirigiendo, no remuestreando desde cero. Esa controlabilidad es algo que el latente enredado de un GAN tiene dificultades para ofrecer.

Cuándo usarlo

Apóyate en la interpolación y la dirección latentes cuando necesites escenarios controlados e interpretables — “muéstrame la trayectoria entre estos dos regímenes”, “dame una variante de alta vol de la semana pasada”. Para realismo crudo sin requisito de dirección, la geometría latente es un bonus, no el objetivo. Es más valiosa para las pruebas de estrés y la generación de hipótesis, donde te importa cómo difiere una muestra de una de referencia.

Por qué los VAE difuminan las colas anchas

Ahora la pega que hace de los VAE un valor por defecto arriesgado para datos de mercado. Todo lo que hace a un VAE estable y ordenado también lo hace regresar hacia la media — y “la media” es precisamente donde no está el peligro.

Conspiran tres fuerzas:

1. Verosimilitud gaussiana. El decodificador estándar maximiza una log-verosimilitud gaussiana, lo que equivale a minimizar el error cuadrático. El error cuadrático se minimiza prediciendo la media condicional, y castiga las grandes desviaciones brutalmente — así que el modelo aprende a evitar las salidas extremas. Las distribuciones reales de retornos son leptocúrticas (las colas anchas de la lección 2); un objetivo gaussiano trata esas colas como errores caros que hay que suavizar.
2. Promediado sobre la posterior. La salida decodificada integra de hecho sobre la bola latente difusa $q(z \mid x)$. Promediar es un filtro paso bajo: los picos nítidos y los cambios bruscos de régimen quedan difuminados hacia algo más suave.
3. Presión KL hacia la a priori. Los códigos latentes lejanos que decodificarían a auténticos cracks son exactamente los que el término KL desincentiva — se sitúan en las faldas de baja densidad de $\mathcal{N}(0, I)$. Empuja todo hacia el centro y empujas los extremos fuera de la mesa.

Evaluado contra la rúbrica de hechos estilizados de la lección 2, un VAE estándar saca unas notas mixtas:

En una línea: un VAE clava el centro de la distribución y suspende los bordes — lo contrario de lo que necesita un modelo de riesgo, donde los bordes son el producto.

La imagen de abajo muestra la firma reveladora: la distribución de retornos sintéticos de un VAE queda demasiado estrecha y demasiado fina en las alas comparada con la cosa real de colas anchas — el difuminado hecho visible.

Cuándo usarlo

Usa un VAE cuando la estabilidad, un latente controlable y un grueso fiel de la distribución importen más que clavar los extremos — bocetos exploratorios de escenarios, aumento de datos para el caso común, aprendizaje de representaciones. Evita un VAE estándar como tu único motor para trabajo de riesgo de cola (VaR, estrés, agrupamiento extremo) sin arreglos explícitos de colas. Cuando las colas nítidas son innegociables, un GAN (más nítido, lección 4) o un modelo de difusión (lección 6) suele ser el mejor punto de partida.

Recapitulación

Un autocodificador variacional empareja un codificador que comprime una ventana de precios en una distribución sobre un código latente con un decodificador que reconstruye la ventana — y el giro variacional fuerza ese latente hacia una nube suave y muestreable con forma de $\mathcal{N}(0, I)$, de modo que los códigos nuevos decodifican a trayectorias novedosas. El entrenamiento minimiza el ELBO: un término de reconstrucción frente a un término KL ponderado por $\beta$, donde $\beta \to 0$ degenera en un autocodificador corriente agujereado y un $\beta$ grande desencadena el colapso de la posterior. El truco de reparametrización ($z = \mu + \sigma \odot \epsilon$) empuja la aleatoriedad fuera del camino del gradiente para que el codificador sea entrenable en absoluto. La recompensa es un latente suave que puedes interpolar y dirigir para escenarios y pruebas de estrés — mucho más estable e interpretable que un GAN. El precio es el difuminado: una verosimilitud gaussiana, el promediado de la posterior y la presión KL empujan todos el modelo hacia la media, así que subproduce las colas anchas de las que vive y muere el trabajo de riesgo. Estable y fiel en el centro; blando y peligroso en los bordes.