Cambio de distribución y deriva de concepto

Las tres lecciones anteriores tenían un villano protagonista: un adversario que alimentaba deliberadamente tu modelo con datos envenenados y entradas diseñadas a medida. Aterrador, sin duda, pero requiere que alguien quiera de verdad hacerte daño. Esta lección es la parte que te pilla incluso cuando nadie está atacando en absoluto.

He aquí la verdad incómoda: el mundo sobre el que se entrenó tu modelo sencillamente deja de existir. El proceso generador de datos se desplaza. Los regímenes cambian. Otros quants encuentran tu señal y la negocian hasta aplanarla. Tu propia operativa empuja los mismos precios que estás prediciendo. No hace falta malicia: el mercado es un objetivo en movimiento, y tu modelo es una fotografía de dónde solía estar.

Esa es la diferencia que conviene retener: un ataque adversario es dirigido e intencionado (Lecciones 1-3); el cambio de distribución es difuso y natural — entropía, no enemigos. Ambos dejan el mismo cráter en tu PnL. Esta lección es la estadística de la mitad natural: cómo nombrar el tipo de cambio que estás sufriendo, por qué una estrategia nueva decae al contacto con la realidad, y cómo atrapar la podredumbre antes de que tu curva de capital la anuncie por ti.

La taxonomía del cambio — ¿qué está cambiando, exactamente?

Analogía. Imagina un cocinero que se formó durante años cocinando a nivel del mar. Tres cosas pueden arruinar el siguiente plato. Los ingredientes podrían cambiar — mantequilla más grasa, caldo más salado (las entradas se desplazan). La mezcla del menú podría cambiar — de repente el 80% de los pedidos son postre en vez del 20% (las tasas base cambian). O la física de la cocina podría cambiar — ahora cocinan a 4.000 metros, donde el agua hierve a 87°C y cada receta antigua está equivocada incluso con ingredientes idénticos (la regla que conecta ingredientes con resultado se invirtió). Las tres son “algo salió mal”, pero el diagnóstico — y el arreglo — difieren por completo.

Definición. Cualquier modelo supervisado vive sobre una distribución conjunta de entradas $x$ y resultados $y$, que se factoriza de dos formas:

$P(x, y) = P(y \mid x)\, P(x) = P(x \mid y)\, P(y).$

El cambio de distribución significa que la conjunta en tiempo de prueba $P_{\text{test}}(x, y)$ difiere de la conjunta de entrenamiento $P_{\text{train}}(x, y)$. Los tres tipos canónicos aíslan qué factor se movió:

• Cambio de covariables — $P(x)$ cambia, $P(y \mid x)$ permanece fijo. Tus entradas se desplazan hacia regiones del espacio de características en las que nunca (o rara vez) entrenaste. La regla sigue siendo válida; simplemente te siguen haciendo preguntas lejos de donde aprendiste. Detectable vigilando las entradas por sí solas, porque eso es lo que se movió.
• Cambio de etiqueta (también cambio de prior) — $P(y)$ cambia, mientras la condicional de clase $P(x \mid y)$ permanece fija. Las tasas base se mueven: p. ej., la fracción de días alcistas, o la tasa de impago incondicional, cambia. Un clasificador calibrado sobre una tasa base del 55% de días alcistas queda mal calibrado cuando los días alcistas pasan a ser el 48%, aunque cada “dado un día alcista, qué aspecto tienen las características” permanezca idéntico.
• Deriva de concepto — $P(y \mid x)$ cambia. La relación misma se mueve: las mismas características ahora predicen un resultado distinto (a veces opuesto). Esta es la más letal para el trading, porque las entradas pueden tener un aspecto perfectamente familiar mientras el modelo está ahora sistemáticamente equivocado. Ningún monitor de solo entradas la verá venir.

Ejemplo resuelto — la característica de momento que te traiciona. Sea $x$ una puntuación de momento normalizada a 12 meses e $y$ el rendimiento del mes siguiente. En un régimen tendencial (2017, pongamos), el momento alto predice más ganancias — los datos dicen $E[y \mid x] = +0.6\,x$, una pendiente positiva: los ganadores siguen ganando. El modelo aprende “compra momento alto”.

Ahora el régimen se vuelve lateral/de reversión a la media (un mercado de vaivenes al estilo de 2018). La distribución de las puntuaciones de momento no cambia — sigues viendo puntuaciones de aproximadamente el mismo rango, así que $P(x)$ es estable. Pero la relación se invierte a $E[y \mid x] = -0.4\,x$: el momento alto ahora predice un retroceso. Una acción con momento $x = +2.0$ que tu modelo esperaba que ganara $0.6 \times 2.0 = +1.2$ en cambio gana $-0.4 \times 2.0 = -0.8$. Misma entrada, $y \mid x$ invertido — un vaivén de $2.0$ en la dirección equivocada, y tu monitor de características marca todo en verde durante todo ese tiempo. Eso es deriva de concepto de manual, y es por lo que las estrategias de momento sufren “cracks” brutales precisamente cuando el mundo tiene un aspecto normal.

Cuándo usarlo

Usa esta taxonomía como un triaje en el momento en que un modelo en producción rinde por debajo de lo esperado. Pregunta primero: ¿se movieron mis entradas hacia territorio desconocido (covariables)? Luego: ¿cambió la tasa base de lo que predigo (etiqueta)? Solo si ambas parecen estables pero sigues sangrando inculpas a la deriva de concepto — y echas mano de la detección basada en resultados (Sección 4) en vez de monitores de entrada que te seguirán mintiendo.

Por qué una estrategia decae en el momento en que se pone en producción

Analogía. El backtest de una estrategia es un perfil de citas: fotos halagadoras y cuidadosamente seleccionadas, sin mención a los ronquidos. El trading en vivo es irse a vivir juntos. Siguen tres decepciones. Parte del brillo era solo un selfie con buen ángulo (selección/suerte). Una vez que te ven en público, todos los demás copian el look hasta que deja de ser especial (masificación). Y tu presencia cambia la habitación — no puedes observar la fiesta tal como era antes de que entraras (reflexividad).

Definición — las tres fuerzas de decadencia.

1. Sobreajuste y selección. Tu backtest es el máximo sobre muchos intentos — parámetros, características, universos, fechas de inicio. El máximo de estimaciones ruidosas está sesgado al alza (la lección del Sharpe desinflado de Machine Learning para Alfa). Parte de ese 2.0 nunca fue ventaja; fue la extracción más afortunada entre las configuraciones que probaste, y se evapora fuera de muestra porque nunca hubo nada ahí desde el principio.
2. Masificación del alfa. Los mercados son competitivos. En el instante en que una señal funciona y se corre la voz — un artículo, una charla de conferencia, un colega que deserta — otros quants negocian lo mismo, empujan los precios hacia el valor justo más rápido, y arbitran la ventaja hasta hacerla desaparecer. Este es exactamente el problema de masificación y capacidad de Arbitraje sistemático y estadístico: un diferencial que revierte a la media en 10 días cuando lo negocian tres fondos revierte en 2 días cuando lo negocian treinta, y el alfa por operación se encoge hacia tus costes.
3. Reflexividad. Actuar sobre una señal cambia el mercado que predice. Tus órdenes de compra empujan el precio hacia arriba, comiéndose la mismísima ineficiencia de precio que detectaste (impacto de mercado), y a escala te conviertes en parte del proceso generador de datos. Este es el quebradero de cabeza central de RL profundo para ejecución: no eres un observador pasivo de un entorno fijo — eres un agente en un entorno que reacciona a ti, así que el mundo del que tu modelo aprendió ya no existe una vez que el modelo empieza a actuar en él.

Ejemplo resuelto — el recorte por publicación. El “¿Destruye la investigación académica la predictibilidad de los rendimientos bursátiles?” de McLean y Pontiff rastreó decenas de anomalías publicadas y halló que los rendimientos decaen aproximadamente un 58% fuera de muestra, con una parte grande atribuida al declive posterior a la publicación (inversores que aprenden y negocian la señal) por encima del sesgo estadístico. Toma el número redondo que la literatura popularizó — alrededor de un recorte del 50%. Empieza con un Sharpe en muestra de $2.0$. Réstale la mitad de publicación/masificación: $2.0 \times (1 - 0.5) = 1.0$. Luego superpón la reflexividad y tus propios costes — pongamos un mordisco adicional del 20% por impacto al tamaño que realmente negocias: $1.0 \times (1 - 0.2) = 0.8$. La expectativa honesta para el Sharpe en vivo, a tamaño está muy por debajo de la mitad del titular. Cualquiera que cite el número del backtest como su expectativa a futuro está leyendo el perfil de citas, no conviviendo con los ronquidos.

Cuándo usarlo

Aplica el recorte antes de dimensionar la posición, no después del drawdown. Al decidir la asignación de capital, introduce un Sharpe desinflado, ajustado por masificación y ajustado por impacto — no el titular del backtest. Y pondera las tres fuerzas según tu situación: un factor publicado es sobre todo riesgo de masificación; un libro grande es sobre todo riesgo de reflexividad; un backtest sobreexplorado es sobre todo riesgo de selección.

Detectar el cambio de covariables — vigila las entradas

Analogía. La detección del cambio de covariables es un portero con una foto de los habituales. Cada noche compara quién entra contra la multitud de referencia. Si la clientela de esta noche se parece estadísticamente a los habituales de siempre, todo bien. Si de repente todos son desconocidos de un barrio distinto, el portero levanta una bandera — antes de que nada haya salido mal dentro, solo sobre la base de que las entradas ya no coinciden con el lugar para el que se escribieron las reglas.

Definición — Índice de Estabilidad de Población (PSI). Agrupa una característica en $k$ cubos. Sea $a_i$ la fracción de observaciones de entrenamiento (referencia) en el cubo $i$ y $b_i$ la fracción de observaciones en vivo (actuales) en el mismo cubo. Entonces

$\text{PSI} = \sum_{i=1}^{k} (b_i - a_i)\, \ln\!\left(\frac{b_i}{a_i}\right).$

(Es el primo de entropía relativa simetrizada de la divergencia KL — cada término es no negativo, así que el PSI solo crece a medida que las dos distribuciones se separan.) Reglas prácticas de la industria: PSI < 0.1 = estable (sin cambio significativo); 0.1-0.25 = cambio moderado (investiga); > 0.25 = cambio significativo (la población se ha movido — reentrena o recalibra). Una herramienta complementaria es la prueba de Kolmogórov-Smirnov (KS) de dos muestras, cuyo estadístico es la brecha máxima entre las dos funciones de distribución acumulada; un valor p pequeño dice “estas muestras no provienen de la misma distribución”.

Ejemplo resuelto — PSI sobre una característica de 2 cubos. Supón que una característica binaria de régimen era una división 50/50 en entrenamiento, así que $a_1 = 0.5,\ a_2 = 0.5$. En vivo, ha derivado a 30/70, así que $b_1 = 0.3,\ b_2 = 0.7$. Término a término:

• Cubo 1: $(b_1 - a_1)\ln(b_1/a_1) = (0.3 - 0.5)\ln(0.3/0.5) = (-0.2)\ln(0.6) = (-0.2)(-0.5108) \approx 0.1022$.
• Cubo 2: $(b_2 - a_2)\ln(b_2/a_2) = (0.7 - 0.5)\ln(0.7/0.5) = (0.2)\ln(1.4) = (0.2)(0.3365) \approx 0.0673$.

Suma: $\text{PSI} \approx 0.1022 + 0.0673 = 0.169$. Eso cae de lleno en la banda 0.1-0.25 “cambio moderado, investiga”. Fíjate en la estructura: ambos términos son positivos (la diferencia negativa en el cubo 1 multiplica un logaritmo negativo, dando un producto positivo), que es por lo que el PSI no puede cancelarse a sí mismo — cualquier movimiento, en cualquier dirección, suma a la puntuación.

Cuándo usarlo

Ejecuta monitores de PSI/KS sobre cada entrada del modelo en un calendario móvil (diario o por reequilibrado), y alarma primero sobre las características importantes. Son tu aviso más barato y más temprano — pero solo atrapan el cambio de covariables. Trátalos como necesarios, nunca suficientes: pasar todos los monitores de entrada es totalmente compatible con que el modelo esté peligrosamente equivocado porque la relación — no las entradas — ha derivado.

Detectar la deriva de concepto — vigila el resultado

Analogía. Los monitores de entrada comprueban que los ingredientes coinciden con la receta. Los monitores de deriva de concepto prueban el plato. Puedes tener ingredientes impecables y conforme a especificación y aun así servir algo incomible si el termostato del horno se rompió en secreto — y la única forma de saberlo es probar el resultado, no reinspeccionar la harina. Así que vigilas el resultado: tasa de acierto realizada, PnL realizado, residuos de predicción.

Definición — detección de deriva basada en resultados. Como la deriva de concepto puede dejar $P(x)$ intacto, monitorizas el rendimiento realizado del modelo a lo largo del tiempo y disparas cuando se degrada más rápido que el ruido:

• Sharpe móvil / tasa de acierto móvil — una estimación por ventana móvil de la ventaja en vivo; un deslizamiento sostenido hacia (o a través de) cero es el síntoma titular.
• CUSUM (suma acumulada) — acumula la suma corriente de desviaciones de la métrica respecto a su nivel esperado (bueno); la suma acumulada permanece plana sin deriva y se dispara una vez que se instala un deterioro pequeño y persistente, así que atrapa la deriva gradual que una prueba de un solo periodo pasaría por alto.
• Prueba de Page-Hinkley — una variante de CUSUM afinada para la detección de puntos de cambio en un flujo: rastrea la desviación acumulada y el mínimo que ha alcanzado, y alarma cuando la brecha entre la acumulada actual y ese mínimo corriente supera un umbral $\lambda$. Clásica para detectar un cambio de media en un flujo de residuos o errores en línea.

El punto didáctico, hecho concreto por la línea temporal de al lado: un buen detector dispara antes de que el PnL se desplome del todo, mientras todavía queda ventaja que proteger — pero la sensibilidad del detector es un compromiso genuino. Un umbral bajo dispara pronto pero salta con el ruido (falsas alarmas que te sacan de una estrategia que aún funciona); un umbral alto dispara tarde, después de que la mayor parte de la ventaja ya se haya ido. No hay almuerzo gratis, solo un dial entre “pronto pero nervioso” y “tarde pero seguro”.

Ejemplo resuelto — Page-Hinkley sobre una tasa de acierto. Digamos que la tasa de acierto de tu señal debería ser del 54% cuando está sana, así que cada acierto puntúa $+1$ y cada fallo $-1$, con una media esperada por operación de $0.54 - 0.46 = +0.08$. Después de que la deriva de concepto invierta silenciosamente parte de la ventaja, la tasa de acierto verdadera cae al 48%, una media esperada de $0.48 - 0.52 = -0.04$. El estadístico corriente de Page-Hinkley acumula el déficit de cada operación por debajo del $+0.08$ esperado y rastrea su mínimo corriente; una vez que la brecha supera tu $\lambda$, alarma. La clave: una sola mala semana (unos cuantos fallos) no lo disparará — eso es solo ruido alrededor de $+0.08$ — pero una caída persistente de $+0.08$ a $-0.04$ hace que el déficit acumulado crezca sin límite, así que la alarma dispara tras un número característico de operaciones, no en cualquier operación desafortunada aislada. Un $\lambda$ más bajo acorta ese número (más pronto, más nervioso); un $\lambda$ más alto lo alarga (más tarde, más seguro).

Cuándo usarlo

Ejecuta monitores de resultados de forma continua, junto a (nunca en lugar de) los monitores de entrada. Elige la herramienta según la forma de la deriva: un Sharpe móvil de una sola ventana para rupturas rápidas y obvias; CUSUM / Page-Hinkley para la degradación lenta e insidiosa que una ventana difuminaría en ruido. Fija el umbral según tu asimetría: si una falsa alarma (retirar innecesariamente una estrategia que funciona) es más barata que una deriva no detectada (cabalgar una muerta hasta el suelo), sesga el umbral bajo — y viceversa.

Responder a la deriva — el menú de movimientos

Analogía. Responder a la deriva es como adaptarte a una ciudad a la que te has mudado. Puedes guardar una memoria móvil — recuerda solo los últimos meses y olvida la ciudad antigua (reentreno por ventana móvil). Puedes actualizar constantemente — aprende de cada calle nueva (aprendizaje en línea), a riesgo de que te engañe un desvío engañoso (envenenamiento). Puedes mantener varios mapas mentales y cambiar por barrio (cambio de régimen/ensamblados). O — radicalmente — puedes dejar de conducir hasta que tengas claro el nuevo mapa (apagarla). La sabiduría es emparejar la respuesta con lo rápido que está cambiando la ciudad.

Definición — el menú de respuestas.

• Reentrenar / ventanas móviles. Reajusta sobre una ventana arrastrada para que el modelo siga el régimen actual. La longitud de la ventana es un dial de sesgo-varianza: una ventana corta se adapta rápido a nuevos regímenes pero se estima sobre pocos puntos ruidosos (alta varianza); una ventana larga es estable y bien estimada pero rancia — lenta para notar que un régimen ha girado (alto sesgo hacia el pasado).
• Aprendizaje en línea. Actualiza el modelo de forma incremental a medida que llegan datos — máximamente adaptativo, pero reabre la superficie de ataque de envenenamiento de datos de la Lección 3: un modelo que confía en cada punto nuevo puede ser guiado por un adversario que lo alimenta con actualizaciones diseñadas a medida. La adaptabilidad y la atacabilidad son dos caras de la misma moneda.
• Modelos de cambio de régimen. Modela explícitamente un estado de régimen oculto (p. ej., un modelo de cambio markoviano) y usa los parámetros del régimen en el que estás actualmente, de modo que una inversión en $P(y \mid x)$ sea esperada en vez de catastrófica.
• Ensamblado entre regímenes. Mantén un establo de modelos — uno por régimen o por era de entrenamiento — y mézclalos o selecciónalos según las condiciones actuales. Robusto ante que cualquier modelo individual quede rancio; este es el puente natural al tema de robustez-por-diversidad de la Lección 5.
• Apagarla. El movimiento honesto e infravalorado: cuando la deriva está confirmada y aún no la entiendes, deja de negociar la estrategia. Un PnL plano es mejor que cabalgar una ventaja muerta hacia un drawdown mientras “esperas a que vuelva”.

Ejemplo resuelto — ventana de reentreno de 60 días frente a 250 días. Supón que un coeficiente que reestimas en cada reequilibrado tiene un ruido de estimación por observación tal que el error estándar de la media escala como $\sigma/\sqrt{n}$ con $n$ la longitud de la ventana. Una ventana de 250 días da $\sigma/\sqrt{250} = \sigma/15.8$ — una estimación ajustada y estable. Una ventana de 60 días da $\sigma/\sqrt{60} = \sigma/7.7$, aproximadamente $15.8/7.7 \approx 2.0\times$ más ruidosa por estimación. Así que la ventana corta paga el doble de ruido de estimación. ¿Qué compra? Velocidad: si un régimen gira en el día 0, la ventana de 60 días es “mayoritariamente régimen nuevo” en ~30 días de negociación, mientras la ventana de 250 días todavía tiene ~190 días rancios arrastrando la estimación hacia el régimen muerto durante meses. Así que estás cambiando una penalización de ruido limpia de ~2× por una adaptación aproximadamente 4× más rápida — vale la pena precisamente cuando el alfa decae rápido, un mal trato cuando es lento y estable.

Cuándo usarlo

Elige la respuesta según la velocidad de decadencia y el coste de equivocarte. Decadencia rápida → ventana corta o aprendizaje en línea (y acepta la exposición al envenenamiento con la validación de entradas de la Lección 3). Régimen desconocido → cambio de régimen o ensamblados. Deriva confirmada que no entiendes → apágala e investiga; nunca dejes que “podría volver” mantenga viva una estrategia diagnosticada como muerta. El objetivo no es no derivar nunca — todo deriva — es detectarla antes de que lo haga el PnL y responder de forma proporcional.

Recapitulación

El adversario de las primeras tres lecciones era una persona. El adversario de aquí es la entropía: el proceso generador de datos deriva tanto si alguien pretende hacerte daño como si no. Aprendiste a nombrar la podredumbre — cambio de covariables ($P(x)$ se mueve), cambio de etiqueta ($P(y)$ se mueve), y la más letal, deriva de concepto ($P(y \mid x)$ se invierte mientras las entradas parecen inocentes). Aprendiste por qué una estrategia nueva decae al contacto con la realidad — selección, masificación (Arbitraje sistemático y estadístico) y reflexividad (RL profundo para ejecución) — y que aproximadamente la mitad de la ventaja del backtest es la expectativa honesta a futuro. Aprendiste a atraparla: PSI / KS sobre las entradas para el cambio de covariables, y Sharpe móvil / CUSUM / Page-Hinkley sobre los resultados para la deriva de concepto que los monitores de entrada no pueden ver — la línea temporal hizo vívido el compromiso de detección temprana-frente-tardía. Y aprendiste a responder: ventanas móviles (con su dial de sesgo-varianza), aprendizaje en línea (y su exposición al envenenamiento), cambio de régimen, ensamblados (siguiente lección) y la opción honesta de apagar la estrategia.