Modelos de difusión y basados en score para trayectorias de precios

Aquí va la idea que se comió la visión por ordenador y luego fue a por todo lo demás: en lugar de intentar dibujar una muestra realista de un único trazo heroico — la jugada de la GAN, todo o nada, propensa al colapso de modos y a la inestabilidad de entrenamiento a las 3 de la madrugada — enseñas a un modelo a hacer primero algo casi insultantemente fácil. Coges datos reales, los destruyes lentamente removiendo ruido gaussiano hasta que no queda más que estática, y registras cada paso de la demolición. Esa parte es trivial; cualquiera sabe añadir ruido. La magia está en que luego entrenas una red para ejecutar la demolición al revés — para mirar algo ligeramente ruidoso y adivinar qué aspecto tenía un escalón más limpio. Encadena suficientes de esos diminutos pasos de limpieza y podrás partir de ruido puro y recorrerlo, paso paciente a paso, todo el camino de vuelta hasta una muestra realista nuevecita que el modelo nunca ha visto.

Eso es un modelo de difusión. Es el motor que hay detrás de los generadores de imágenes de los que has oído hablar, y sobre el papel es la respuesta al cliffhanger de las dos últimas lecciones. La GAN (lección 4) te daba muestras nítidas y de alta fidelidad pero era una diva temperamental que colapsaba sobre unos pocos modos y te peleaba todo el rato. El VAE (lección 5) era un ciudadano tranquilo, estable y estructurado que sí podías entrenar de verdad — pero sus muestras salían borrosas, la media probabilística de todo lo que podría haber sido. La propuesta de la difusión es que no tienes que elegir: entrena tan establemente como un VAE (no es más que un problema de regresión, predecir-el-ruido, sin pelea adversarial a navaja) y genera tan nítidamente como una GAN, cubriendo además los modos mejor que cualquiera de las dos. La pega — y siempre hay una pega — es que muestrea despacio, machacando docenas o cientos de pasos de eliminación de ruido por cada trayectoria, y tiene aún más hambre de datos que sus predecesores.

Así que en esta lección haremos dos cosas a la vez. Construiremos la máquina con honestidad — proceso hacia delante, denoiser inverso, la visión basada en score que lo unifica, y el condicionamiento — y seguiremos haciendo la pregunta central e incómoda del curso: esta tecnología se ganó la corona con diez millones de fotos de gatos casi estacionarias. Tú tienes unos pocos miles de retornos no estacionarios y de poca señal. ¿De verdad se gana el sueldo el estado del arte en fotografías aquí, o estamos haciendo culto al cargamento de una victoria en un benchmark que nunca llega al P&L?

El proceso hacia delante (de añadir ruido)

Analogía. Deja caer una única gota de tinta en un vaso de agua quieta. Al principio es una mancha nítida y estructurada — podrías señalarla. Un segundo después es una nube tenue; un minuto después todo el vaso es uniformemente, aburridamente gris y nunca adivinarías dónde cayó la gota. Difundir la tinta hacia delante no cuesta esfuerzo — la física lo hace gratis, y en la práctica es irreversible. Pero imagina que te pidieran pasar la película al revés: reensamblar ese gris uniforme de vuelta en la gota nítida original. Ese problema inverso es asombrosamente difícil — y aprender a hacerlo es todo el juego.

Definición. El proceso hacia delante toma un punto de datos real $x_0$ (aquí, una trayectoria de retornos o una ventana de retornos) y produce una secuencia $x_1, x_2, \dots, x_T$ mezclando repetidamente ruido gaussiano según un calendario fijo de coeficientes $\alpha_t$:

Cada paso encoge la señal superviviente por $\sqrt{\alpha_t}$ e inyecta ruido nuevo de varianza $1-\alpha_t$, de modo que para el paso $T$ esencialmente toda la estructura ha desaparecido y $x_T \approx \mathcal{N}(0, I)$ — pura estática. Una conveniencia preciosa: como cada paso es solo escalado-más-gaussiano, puedes saltar directamente a cualquier paso en forma cerrada sin simular los intermedios. Escribiendo $\bar\alpha_t = \prod_{s=1}^{t}\alpha_s$,

Esto debería resultarte familiar de Finanzas de Monte-Carlo: esa recursión es una ecuación diferencial estocástica discretizada, y en el límite continuo el proceso hacia delante es una SDE de difusión — un movimiento browniano que lentamente ahoga la señal. Ya sabes simular ruido browniano; la difusión simplemente lo ejecuta como una corrupción controlada con un calendario conocido.

Ejemplo resuelto. Sea $x_0 = 1.0$ (un valor de retorno normalizado) y usa un calendario suave $\alpha_1 = \alpha_2 = 0.9$. Supón que las extracciones de ruido salen $\epsilon_1 = 0.5$ y $\epsilon_2 = -1.2$.

• Paso 1: $x_1 = \sqrt{0.9}\cdot 1.0 + \sqrt{0.1}\cdot 0.5 \approx 0.949 + 0.158 = 1.107$. Todavía reconociblemente “en torno a 1” — la mayor parte de la señal sobrevive.
• Paso 2: $x_2 = \sqrt{0.9}\cdot 1.107 + \sqrt{0.1}\cdot(-1.2) \approx 1.050 - 0.379 = 0.671$. El valor original se desvanece; el ruido toma el control.

Comprueba la forma cerrada: $\bar\alpha_2 = 0.9 \times 0.9 = 0.81$, así que el coeficiente de señal superviviente es $\sqrt{0.81} = 0.9$. Tras solo dos pasos, $x_0$ aporta $0.9 \times 1.0 = 0.9$ a la media — sigue iterando y ese coeficiente marcha hacia cero. Para cuando $\bar\alpha_t \approx 0$, el punto de datos es indistinguible de una extracción normal estándar. Esa es la demolición, completa.

Cuándo usarlo

El proceso hacia delante no es algo que “uses” en inferencia — nunca lo ejecutas para generar. Lo ejecutas solo durante el entrenamiento, como el mecanismo barato que fabrica pares (entrada ruidosa, ruido conocido) para que el denoiser aprenda de ellos. Su verdadero valor es conceptual: convierte el problema imposible “modela la distribución completa de los retornos” en el problema trivial de plantear “dado algo ruidoso, predice el ruido” — en todos los niveles de corrupción a la vez.

El proceso inverso (de eliminación de ruido)

Analogía. Un escultor maestro no talla una estatua de un solo golpe. Mira un bloque tosco, quita un poco de lo que obviamente no es la estatua, da un paso atrás, vuelve a mirar, quita un poco más. Cada pasada es una decisión modesta y de bajo riesgo; la obra maestra emerge de la acumulación de pequeñas correcciones. El denoiser de difusión es ese escultor, y el bloque de mármol es una pantalla de ruido puro. Nunca tiene que clavar la trayectoria entera de golpe — solo tiene que responder a la pregunta fácil “¿qué ruido tengo delante ahora mismo?” unas cuantas centenas de veces seguidas.

Definición. Entrenamos una única red $\epsilon_\theta(x_t, t)$ para mirar una entrada ruidosa $x_t$ y su nivel de corrupción $t$, y predecir el ruido $\epsilon$ que se añadió. Gracias a la forma cerrada $x_t = \sqrt{\bar\alpha_t}\,x_0 + \sqrt{1-\bar\alpha_t}\,\epsilon$, generar un ejemplo de entrenamiento es gratis: elige un $x_0$ real, elige un paso aleatorio $t$, extrae un ruido $\epsilon$, construye $x_t$ y pide a la red que recupere $\epsilon$. La pérdida es un error cuadrático medio liso — sin adversario, sin acto de equilibrismo:

Esa simplicidad del MSE es toda la razón por la que la difusión es estable — no es más que regresión, lo más bien portado que hay en el deep learning. Para muestrear, parte de $x_T \sim \mathcal{N}(0, I)$ y da pasos hacia atrás: en cada $t$, predice el ruido, resta la cantidad implícita para estimar un $x_{t-1}$ un poco más limpio, vuelve a añadir un toque de aleatoriedad nueva (para que muestrees en lugar de colapsar en una sola respuesta), y repite hasta $x_0$.

Recorrido conceptual resuelto de un paso de eliminación de ruido. Digamos que estás en el paso $t$ sosteniendo una trayectoria ruidosa $x_t$ que es, visualmente, “sobre todo estática con una tenue tendencia asomando”.

1. Pasa $(x_t, t)$ a la red. Devuelve $\epsilon_\theta$ — su mejor conjetura del ruido que contamina esta trayectoria a este nivel de corrupción.
2. Reordenando la forma cerrada hacia delante se obtiene una estimación de la trayectoria limpia: $\hat{x}_0 = \big(x_t - \sqrt{1-\bar\alpha_t}\,\epsilon_\theta\big)/\sqrt{\bar\alpha_t}$. Esto es el modelo “imaginando” la muestra acabada — al principio, $\hat{x}_0$ es una conjetura borrosa; cerca del final es nítida.
3. No saltes hasta $\hat{x}_0$ de golpe — esa sería la jugada de una sola pasada, demasiado confiada. En su lugar da un pequeño paso hacia ella para obtener la media de $x_{t-1}$, y luego añade un poco de ruido gaussiano de vuelta para que estés extrayendo de una distribución, no de un punto.
4. Ahora estás en $x_{t-1}$: marginalmente más limpia. Repite. Tras todos los $T$ pasos, la tenue tendencia se ha resuelto en una trayectoria de retornos nítida y realista.

La razón por la que la salida es nítida (a diferencia de la decodificación borrosa de un solo disparo de un VAE) es exactamente este refinamiento iterativo: cientos de pequeños pasos correctivos permiten al modelo comprometerse con detalles finos que nunca se atrevería a producir en una sola pasada.

Cuándo usarlo

Echa mano del enfoque del denoiser — predecir-el-ruido, muestrear-por-refinamiento — siempre que la estabilidad de entrenamiento sea el cuello de botella y puedas permitirte una generación lenta. Si tu GAN no para de colapsar o tu VAE no para de emborronar y tienes suficientes datos, el proceso inverso de difusión es la alternativa estable y de alta fidelidad. Sáltatelo cuando necesites generar cantidades enormes de trayectorias con un presupuesto de latencia ajustado y un generador más barato ya supere tu listón de fidelidad.

La visión basada en score

Analogía. Imagina el espacio de todas las trayectorias de retornos posibles como un paisaje donde las trayectorias realistas se asientan en valles profundos y las absurdas (una acción que triplica cada día durante un mes) se posan en crestas altas y solitarias. El score es la dirección local cuesta abajo — un campo de gravedad que, estés donde estés, apunta hacia el valle de plausibilidad más cercano. No necesitas un mapa de la altitud de todo el terreno; solo necesitas saber, a tus pies, hacia dónde es cuesta abajo. Suelta una canica (una muestra de ruido) en cualquier sitio y deja que esta gravedad tire de ella, con un poco de jitter para que explore, y rueda hasta un valle — una muestra realista.

Definición. El score de una distribución es $\nabla_x \log p(x)$: el gradiente, respecto a los datos mismos, de la log-densidad. Es un vector en cada punto del espacio de datos que apunta hacia mayor probabilidad. La parte elegante: estimarlo nunca requiere la densidad normalizada $p(x)$ — la constante de normalización intratable se cancela en el gradiente del logaritmo. Una vez que tienes un score aprendido $s_\theta(x) \approx \nabla_x \log p(x)$, generas mediante dinámica de Langevin: parte de ruido y da pasos repetidos en la dirección del score más una pizca de ruido aleatorio,

que demostrablemente se asienta en muestras de $p(x)$. Para que esto funcione en todos los niveles de ruido, Song y Ermon aprenden el score de versiones cada vez más ruidosas de los datos — y ese es exactamente el mismo modelo que el denoiser. La predicción de ruido $\epsilon_\theta$ de Ho et al. y el score $s_\theta$ están relacionados por un sencillo reescalado: $s_\theta(x_t, t) \approx -\,\epsilon_\theta(x_t, t)/\sqrt{1-\bar\alpha_t}$. Predecir el ruido es estimar el score, salvo una constante conocida. Dos vocabularios, una máquina.

Ejemplo resuelto. Supón que la distribución verdadera de los datos es una gaussiana sencilla centrada en $\mu = 0.05$ (un diminuto retorno medio positivo) con varianza $\sigma^2$. Su score tiene una forma cerrada limpia: $\nabla_x \log p(x) = -(x - \mu)/\sigma^2$. Ponte en $x = 0.30$ — un retorno diario implausiblemente grande, muy lejos en la cresta. Con $\sigma^2 = 0.01$, el score es $-(0.30 - 0.05)/0.01 = -25$: un vector fuerte que apunta de vuelta hacia el grueso de la distribución. Ponte en cambio justo en la media, $x = 0.05$: el score es $0$ — ya estás en el valle, no hace falta empuje. La dinámica de Langevin simplemente sigue estas flechas cuesta abajo, y cuanto más te desvías hacia territorio implausible, más fuerte te arrastra de vuelta el campo.

Cuándo usarlo

La visión de score es la que hay que invocar cuando quieres la teoría — es lo que conecta la difusión con las SDE (la formulación en tiempo continuo que conociste en Finanzas de Monte-Carlo), explica por qué el modelo generaliza en lugar de memorizar, y unifica una docena de variantes de muestreador. En la práctica, implementarás la forma de predicción de ruido (es una pérdida más limpia), pero razonarás sobre por qué funciona en el lenguaje basado en score. Úsala siempre que alguien pregunte “pero ¿qué está estimando en realidad la red?” — la respuesta honesta es un campo de gravedad sobre el espacio de datos.

Condicionamiento y la comparación con GAN/VAE

Analogía. Un generador incondicional es una gramola en modo aleatorio — dale al play y obtienes alguna canción realista, pero no eliges. Un generador condicional es la misma gramola con un dial de género: gíralo a “crisis” y te toca una trayectoria de alta volatilidad, colas anchas y mucho agrupamiento; gíralo a “lento alcista en calma” y te sirve una deriva de baja volatilidad. La misma máquina, el mismo entrenamiento; solo le dijiste de qué estante extraer.

Definición. La difusión condicional amplía el denoiser con una condición $c$ — una etiqueta de régimen, una volatilidad objetivo, un identificador de activo, un estado macro — de modo que aprende $\epsilon_\theta(x_t, t, c)$ y genera muestras consistentes con $c$. La guía (con clasificador o sin clasificador) marca entonces con cuánta fuerza se adhiere el modelo a la condición, cambiando un poco de diversidad por muestras más nítidas sobre la condición. Esto es exactamente lo que hace atractiva la difusión para la generación de escenarios (lección 1): puedes pedir el régimen que necesitas en lugar de esperar a que el modo aleatorio te lo entregue. Ahora enfrenta la difusión a sus dos predecesores:

La fila destacada para las finanzas es la cobertura de modos. Una GAN que colapsa podría generar mil variaciones de la misma trayectoria alcista en calma y, calladamente, no producir nunca un crash — catastrófico si estás haciendo pruebas de estrés. La fortaleza de la difusión es que tiende a cubrir los modos, incluidos los raros y aterradores de las colas — precisamente los regímenes que de verdad le importan a un equipo de riesgos.

Ejemplo resuelto. Estás construyendo un generador de escenarios de estrés a lo largo de tres regímenes: calma, transición, crisis. Con una GAN propensa al colapso de modos, podrías entrenarla y descubrir — solo después de un mal mes — que las trayectorias de “crisis” esencialmente nunca aparecen en su salida: al discriminador le resultó más fácil vigilar las abundantes trayectorias de calma, así que el generador abandonó calladamente el modo raro. Un modelo de difusión condicional, en cambio, te deja solicitar c = crisis y, como la arquitectura no penaliza cubrir modos raros, devuelve trayectorias genuinas de alta volatilidad y colas anchas bajo demanda. Lo pagas en tiempo de muestreo — generar 10.000 trayectorias de crisis a 100 pasos cada una es un millón de pasadas hacia delante — pero de verdad obtienes el crash que pediste.

Cuándo usarlo

Echa mano de la difusión condicional cuando necesites generación de escenarios dirigible a lo largo de regímenes o activos y la cobertura de modos importe más que la velocidad de muestreo — libros de estrés multiactivo, aumento condicionado por régimen, “dame 500 trayectorias que se parezcan al Q4 de 2018”. Quédate con una GAN cuando dominen la velocidad de muestreo y la nitidez y puedas vigilar el colapso de modos; quédate con un VAE cuando quieras un espacio latente interpretable y navegable (interpolando suavemente entre regímenes) y puedas tolerar el desenfoque. Las tres no están clasificadas — son herramientas con distintos filos cortantes.

¿Se gana el sueldo con los retornos?

Analogía. Un Fórmula 1 es la cima de la ingeniería automovilística — en un circuito liso, seco y construido a propósito. Déjalo en un camino de granja embarrado y lleno de baches y es peor que un tractor: demasiado bajo, demasiado rígido, demasiado especializado para un terreno para el que nunca se construyó. La difusión es el Fórmula 1. Los conjuntos de datos de imágenes son el circuito: enormes, limpios, casi estacionarios, alta señal. Los retornos financieros son el camino de granja embarrado: unos pocos miles de observaciones ruidosas, no estacionarias y de poca señal. La ingeniería que gana la carrera puede perder en la granja.

La contabilidad honesta. Quita la fanfarria y pesa la difusión contra las dos varas de medir del curso — la rúbrica de hechos estilizados (lección 2) y las líneas base clásicas baratas (lección 3):

• La escasez de datos muerde más fuerte aquí. La difusión es el más hambriento de datos de los tres generadores profundos, y las finanzas son el dominio más hambriento de datos. Diez millones de fotos de gatos frente a unos pocos miles de retornos no es una brecha pequeña — es la diferencia entre el régimen donde la difusión brilla y el régimen donde sobreajusta. El problema de la historia única (lección 1) no desaparece por haber usado un modelo más sofisticado; empeora.
• La no estacionariedad rompe el supuesto central. Las distribuciones de imágenes apenas se desplazan — un gato parecía un gato en 2010 y parece uno ahora. Los mercados cambian de régimen: la distribución sobre la que entrenaste no es la que verás desplegada. Un modelo que ajusta sin fallos la distribución de la década pasada puede equivocarse con confianza sobre la del año que viene.
• El bajo SNR convierte la “fidelidad” en un lastre. En imágenes, la alta fidelidad significa detalle nítido y correcto. En retornos, la mayor parte de la varianza es ruido — así que un generador de alta fidelidad puede reproducir fielmente el ruido y llamarlo hecho estilizado. Más nítido no es automáticamente mejor cuando lo que estás afilando es sobre todo aleatoriedad.
• El muestreo lento choca con el apetito de Monte-Carlo. El trabajo de riesgos y escenarios quiere cientos de miles de trayectorias. El muestreo de difusión de muchos pasos hace eso caro precisamente en el caso de uso (lección 1) donde más quieres volumen de trayectorias.

Así que lo calificas como todo lo demás. ¿Reproduce la salida de difusión los hechos estilizados — colas anchas, agrupamiento de volatilidad, el efecto apalancamiento, la gaussianidad por agregación? Mira la distribución y la autocorrelación de los retornos al cuadrado, y compara no contra “parece plausible” sino contra una línea base ajustada de cambio de régimen o de bootstrap por bloques de la lección 3:

Cuándo se gana de verdad el sueldo la difusión — y a veces lo hace — es la banda estrecha donde sus fortalezas específicas se alinean con una necesidad real: condicionamiento rico (escenarios multirégimen dirigibles que no puedes especificar a mano), generación multiactivo / de alta dimensión donde la estructura conjunta a lo largo de muchas series es demasiado enredada para un bootstrap, y cualquier escenario donde la cobertura de modos sea todo el quid (no debes perder calladamente el modo de crash). Ahí, “estable + nítido + cubre modos” puede ganar al instrumental clásico. Donde es sobre todo fanfarria es el caso común: un único activo, unos pocos años de retornos diarios, un objetivo de hechos estilizados que un modelo de cambio de régimen ya alcanza con el 1% del cómputo y cero riesgo de fuga. Si la difusión no gana a la línea base en la rúbrica, no se ha ganado nada salvo una factura de nube más grande.

Cuándo usarlo

Usa la difusión con retornos cuando — y esencialmente solo cuando — tengas una necesidad genuina de condicionamiento rico o una estructura conjunta multiactivo y de alta dimensión que capturar, puedas permitirte un muestreo lento, tengas suficientes datos para alimentar al más hambriento de los generadores, y hayas demostrado en la rúbrica de hechos estilizados que gana a la línea base barata. Si no, baja por la escalera por defecto: un simulador de cambio de régimen o un bootstrap por bloques es más rápido, auditable, resistente a fugas y a menudo igual de bueno en las métricas que se traducen en P&L. La sofisticación es un coste a justificar, no un premio a ganar.

Recapitulación

Un modelo de difusión genera revirtiendo una corrupción. El proceso hacia delante es un calendario fijo y sin aprendizaje que remueve ruido gaussiano en datos reales hasta que $x_T \approx \mathcal{N}(0, I)$ — y gracias a una forma cerrada, puedes saltar a cualquier nivel de ruido al instante; es una SDE de difusión discretizada, la maquinaria browniana de Finanzas de Monte-Carlo ejecutada como demolición controlada. El proceso inverso es la mitad aprendida: una red $\epsilon_\theta(x_t, t)$ entrenada por MSE liso para predecir el ruido, y luego ejecutada iterativamente desde pura estática de vuelta a una trayectoria limpia — estable de entrenar (sin adversario) y nítida de muestrear (cientos de pequeños refinamientos), pero lenta. La visión basada en score dice que el mismo modelo está en realidad estimando $\nabla_x \log p(x)$, un campo de gravedad hacia datos realistas que recorres mediante dinámica de Langevin — predecir ruido y estimar el score son una máquina en dos idiomas. El condicionamiento la hace dirigible para la generación de escenarios, y contra sus predecesores la difusión es la rara combinación de estable como un VAE y nítida como una GAN, con la mejor cobertura de modos — al precio de un muestreo lento y la mayor hambre de datos. Y el credo del curso sigue mandando: la difusión ganó su corona con diez millones de imágenes casi estacionarias y de alta señal, mientras que las finanzas te entregan unos pocos miles de retornos no estacionarios y de poca señal — así que califícala con la rúbrica de hechos estilizados, haz que gane a la línea base clásica barata, ejecuta las comprobaciones de memorización (lección 7) y solo corónala cuando se gane el sueldo en las métricas que tocan el P&L. El estado del arte en fotografías es aquí una hipótesis, no un veredicto.