Double Machine Learning

A estas alturas ya sabes plantear la pregunta causal con precisión, dibujar el DAG, nombrar los confusores y — cuando tienes suerte — aprovechar un experimento natural. Pero la mayoría de las veces no tienes suerte. Tienes decenas de confusores (todo el conjunto de exposiciones a factores, el estado de la microestructura, los indicadores de régimen), las relaciones entre ellos y el resultado son no lineales, y te encantaría modelarlas con los árboles de gradient boosting y las redes profundas en los que ya confías. El problema: en cuanto dejas que un modelo flexible de machine learning toque el problema de la manera ingenua — meter el tratamiento como una característica más y leer su coeficiente — tu estimación causal queda, de forma silenciosa y sistemática, sesgada. No ruidosa. Sesgada, en una dirección cuyo signo no puedes determinar y a un ritmo que no se desvanece.

El double machine learning (DML) es el procedimiento que te permite conservar toda esa potencia del ML y recuperar aun así un coeficiente causal que es insesgado, $\sqrt{n}$-consistente y viene con intervalos de confianza honestos. Se apoya en dos ideas — ortogonalización (partialling-out) y cross-fitting — y en una propiedad preciosa, la ortogonalidad de Neyman, que hace que todo funcione. Esta lección instala las tres.

La trampa del plug-in: el sesgo de regularización se filtra en tu efecto

Analogía. Contratas a un único contratista para hacer dos trabajos a la vez: estimar el efecto de una ventana nueva sobre tu factura de calefacción, mientras también tiene en cuenta el aislamiento, el clima y el tamaño de la casa. Para terminar dentro del presupuesto (regularización), el contratista hace chapuzas en la parte difícil — modelar el aislamiento y el clima — y mete calladamente el error sobrante en el único número que de verdad le pediste, el efecto de la ventana. Las esquinas que recortó en el trabajo de nuisance no se cancelan; se amontonan sobre tu respuesta. Querías una medición limpia y te llevaste una medición más los atajos acumulados del contratista.

Definición. Escribe el modelo parcialmente lineal

donde $T$ es el tratamiento, $X$ es el vector (de alta dimensión) de confusores, $g_0$ es una función de nuisance desconocida y $\theta_0$ es el parámetro causal que quieres. El tratamiento está a su vez impulsado por los confusores, $T = m_0(X) + V$ con $\mathbb{E}[V \mid X] = 0$. El estimador plug-in ajusta $\hat g$ y $\hat\theta$ conjuntamente con un único modelo regularizado y reporta $\hat\theta$. Su error se descompone en un término bien comportado de $\sqrt{n}$ más un término de sesgo de regularización que escala como el error de estimación de nuisance en $\hat m$ multiplicado por el error en $\hat g$ — y para cualquier modelo que deba regularizar, ese producto se encoge más lento que $1/\sqrt{n}$, así que domina y no se desvanece.

Ejemplo resuelto. Supón que el efecto verdadero es $\theta_0 = 0$ (la señal no causa nada) pero un confusor $X$ eleva tanto $T$ como $Y$. Un modelo regularizado encoge su $\hat g(X)$ ajustada hacia cero, así que infraexplica $Y$ a partir de $X$ y deja variación residual del resultado que aún correlaciona con $T$ a través del confusor. Numéricamente: digamos que la regularización deja a $\hat g$ capturando solo el 90% del efecto del confusor sobre $Y$, y $T$ comparte varianza con ese 10% no capturado. La correlación sobrante se traduce en un $\hat\theta \approx 0.4$ espurio donde la verdad es $0$. Recoge diez veces más datos y el sesgo apenas se mueve — porque la fuerza de la regularización escala con la dimensión, no solo con el tamaño muestral. Tienes un intervalo de confianza seguro de sí mismo, estrecho y equivocado, centrado en $0.4$.

Cuándo usarlo

Reconoce la trampa del plug-in cada vez que veas “controlamos por todo metiéndolo todo en el modelo y leyendo el valor SHAP / coeficiente del tratamiento.” Esa es la trampa, palabra por palabra. Siempre que el mismo modelo flexible absorba los confusores y estime el efecto a la vez, el efecto queda contaminado. El arreglo nunca es “usa un modelo mejor” — es separar la estimación de nuisance de la estimación del efecto, que es exactamente lo que hace la siguiente sección.

Partialling-out: residualiza ambos lados, luego regresa los residuales

Analogía. Dos amigos llegan siempre a cenar habiendo comido ya los dos — porque el mismo anfitrión (el confusor $X$) los alimentó de antemano. Para saber si el apetito de un amigo de verdad impulsa el del otro, primero restas “cuánto alimentó el anfitrión a cada uno”. Lo que queda es el hambre no explicada de cada uno. Correlaciona esos restos y has eliminado al anfitrión por completo. Residualizar $Y$ y $T$ sobre $X$ es restar la comida del anfitrión de ambos platos antes de comparar.

Definición. Este es el teorema de Frisch-Waugh-Lovell (FWL), arrastrado a la era del ML. El FWL clásico dice: en una regresión lineal, el coeficiente de $T$ es igual a la pendiente que obtendrías al (1) regresar $Y$ sobre las demás variables y tomar los residuales $\tilde Y$, (2) regresar $T$ sobre las demás variables y tomar los residuales $\tilde T$, (3) regresar $\tilde Y$ sobre $\tilde T$. El DML sustituye los dos pasos de “regresar sobre $X$” por modelos de nuisance de ML arbitrarios:

Aquí $\hat g(X) = \mathbb{E}[Y \mid X]$ es el modelo del resultado y $\hat m(X) = \mathbb{E}[T \mid X]$ es el modelo de propensión / del tratamiento. Ambos pueden ser árboles de gradient boosting, random forests, redes neuronales — lo que sea. El estimador $\hat\theta$ no es más que una regresión de una sola variable de residuales limpios sobre residuales limpios.

Ejemplo resuelto. Cinco observaciones de una señal $T$ y el retorno del siguiente periodo $Y$, con predicciones de los confusores $\hat m(X)$ y $\hat g(X)$ ya ajustadas por algún modelo de ML. Calcula los residuales y luego $\hat\theta$.

Los residuales tienen media cero. Ahora $\hat\theta = \frac{\sum \tilde T\,\tilde Y}{\sum \tilde T^2}$:

Así que tras fregar los confusores fuera de ambos lados, un cambio de una unidad en la parte de la señal libre de confusores mueve la parte del retorno libre de confusores en $2.0$. Esa pendiente es el $\hat\theta$ causal — y fíjate en que salió de una regresión univariante trivial una vez que el ML había hecho el partialling-out.

Cuándo usarlo

Echa mano del partialling-out siempre que la estructura de los confusores sea de alta dimensión o no lineal pero el efecto de interés sea un único parámetro de baja dimensión que puedas defender como aproximadamente lineal (un efecto de señal por unidad, un efecto medio del tratamiento). Deja que el ML haga el trabajo de nuisance desordenado y de alta dimensión donde la flexibilidad rinde; mantén $\theta$ en una regresión simple, interpretable y de baja dimensión donde de verdad quieres inferencia. Esa división del trabajo — nuisances flexibles, objetivo simple — es el corazón del DML.

Ortogonalidad de Neyman: por qué nuisances de ML lentos siguen dando un efecto limpio

Analogía. Imagina equilibrar una canica en un cuenco. En el mismísimo fondo — el punto ortogonal — la superficie es plana: empuja la canica un poco en cualquier dirección y su altura apenas cambia, porque allí la pendiente es cero. El estimador plug-in aparca la canica en una pendiente: el mismo pequeño empujón (un pequeño error de nuisance) la rueda notablemente cuesta abajo, cambiando tu respuesta. Ortogonalizar la condición de momento te lleva al fondo plano del cuenco, donde los pequeños errores en los modelos de nuisance simplemente no inclinan la estimación.

Definición. Sea $\psi(W; \theta, \eta)$ el score (ecuación de estimación) cuya raíz define $\hat\theta$, donde $\eta = (g, m)$ son los nuisances. El score es Neyman-ortogonal si su derivada de Gâteaux respecto a $\eta$, evaluada en la verdad, es cero:

Para el modelo parcialmente lineal el score ortogonal es el momento residual-sobre-residual $\psi = (Y - g(X) - \theta(T - m(X)))(T - m(X))$. Como el término de primer orden se desvanece, el sesgo del estimador depende solo del producto de los errores de nuisance, esquemáticamente $\lVert \hat g - g_0 \rVert \cdot \lVert \hat m - m_0 \rVert$. Si cada modelo de ML converge al ritmo modesto $n^{-1/4}$ — mucho más lento que el $n^{-1/2}$ que necesita un modelo paramétrico — el producto converge a $n^{-1/2}$, lo bastante rápido como para que $\hat\theta$ sea $\sqrt{n}$-consistente y asintóticamente normal. El score del plug-in ingenuo no es ortogonal: su derivada es distinta de cero, así que el error de nuisance entra linealmente al ritmo lento $n^{-1/4}$ y ahoga la señal de $\sqrt{n}$.

Ejemplo resuelto. Supón que cada nuisance de ML tiene un error de estimación de tamaño $0.1$ (es decir, $\hat g$ y $\hat m$ están cada uno desviados en torno a un 10%). En el plug-in no ortogonal, ese $0.1$ entra en el sesgo de $\hat\theta$ linealmente → sesgo $\approx 0.1$, un desplazamiento grande y persistente. En el score ortogonal del DML, los mismos errores entran solo a través de su producto → sesgo $\approx 0.1 \times 0.1 = 0.01$, un orden de magnitud más pequeño, y sigue encogiendo a medida que mejoran los nuisances. Los mismos modelos imperfectos, los mismos datos; la ortogonalidad por sí sola convirtió un sesgo de $0.1$ en uno de $0.01$. Eso es toda la recompensa de mudarse al fondo plano del cuenco.

Cuándo usarlo

Apóyate en la ortogonalidad precisamente cuando tus modelos de nuisance sean buenos pero no estupendos — ML flexible en el que confías para que converja, pero despacio y con un sesgo que no puedes caracterizar. Eso describe esencialmente todo problema financiero real de alta dimensión. Cuando en cambio tienes un nuisance paramétrico limpio de baja dimensión en el que crees del todo, no necesitas estrictamente la maquinaria del DML — pero usar el score ortogonal no cuesta nada y te protege si esa creencia es errónea, así que ortogonalizar es un valor por defecto sin arrepentimientos.

Cross-fitting: estima el nuisance y el efecto en datos distintos

Analogía. No dejes que los estudiantes corrijan sus propios exámenes. Si la misma persona que escribió el solucionario también corrige su examen, se corregirá inconscientemente con generosidad — el “error” que mide incluye la ayuda que se dio a sí misma. El cross-fitting divide la clase: el grupo A escribe el solucionario (ajusta el nuisance), el grupo B es corregido por él (puntuado sobre datos reservados), luego intercambian para que todos pasen por escribir y por corregir. Nadie corrige su propio trabajo, así que los residuales medidos son honestos.

Definición. El cross-fitting (también llamado sample-splitting / DML2) particiona los datos en $K$ pliegues. Para cada pliegue $k$: ajusta $\hat g$ y $\hat m$ sobre todos los demás pliegues ($-k$), luego forma los residuales y evalúa el score ortogonal solo sobre el pliegue $k$ usando esos nuisances fuera del pliegue. Promedia los $\hat\theta_k$ por pliegue (o agrupa los scores) en una sola estimación. Como cada observación es puntuada por un modelo de nuisance que nunca la vio, los residuales no arrastran ningún sobreajuste de la propia observación, y los términos de resto que la ortogonalidad controla de verdad tienden a cero. La ortogonalidad maneja el sesgo de nuisances imperfectos; el cross-fitting maneja el sesgo de que un nuisance espíe el mismísimo punto que puntúa. Necesitas ambos.

Ejemplo resuelto — un cross-fit de 2 pliegues. Divide la muestra por la mitad. Los nuisances del pliegue A se entrenan con los datos del pliegue B y se usan para puntuar el pliegue A; los nuisances del pliegue B se entrenan con el pliegue A y puntúan el pliegue B. Promedia las dos pendientes.

Cada mitad es puntuada por un modelo que nunca entrenó con ella, así que ni $\hat\theta_A$ ni $\hat\theta_B$ están inflados por autocorrección. El $\hat\theta = 2.0$ promediado usa la muestra completa para la inferencia mientras mantiene el ajuste y la puntuación estrictamente disjuntos.

Ahora el truco de las series temporales. Una simple división aleatoria de pliegues filtra el futuro hacia el pasado: un nuisance entrenado en un pliegue que contiene los datos de mañana, y que luego puntúa hoy, ha espiado a través de la autocorrelación. Así que en finanzas haces cross-fitting con las divisiones purgadas y en cuarentena de la lección de deep learning — los pliegues respetan el orden temporal, las observaciones cercanas a la frontera train/test cuyas ventanas de etiqueta se solapan se purgan, y un breve hueco de cuarentena (embargo) tras cada bloque de test evita la fuga a través de la correlación serial. El cross-fitting y la CV purgada son la misma idea con dos sombreros: mantén los datos de puntuación estrictamente fuera de muestra respecto a los datos de ajuste — en características y en el tiempo.

Cuándo usarlo

Haz siempre cross-fitting — no es un pulido opcional sino un pilar de carga de las garantías del DML, y el coste es solo reajustar los nuisances $K$ veces (usa $K = 5$ o $10$). La elección que varía es el esquema de división: los datos transversales i.i.d. toleran un K-fold ordinario; cualquier cosa con un índice temporal, horizontes solapados o correlación serial exige pliegues purgados y en cuarentena. Elige la división que encaje con tu estructura de dependencia, y luego haz cross-fitting sin excepción.

DML para alfa y efectos de tratamiento — y sus límites honestos

Analogía. El DML es un par espectacular de auriculares con cancelación de ruido para el ruido medido: dale las frecuencias de los confusores que puedes oír (las exposiciones a factores, el estado de liquidez, el régimen) y los cancela de forma impecable, por compleja que sea su forma de onda. Pero no cancela nada que no pueda muestrear. Un confusor que nunca mediste es un sonido fuera del rango del micrófono — los auriculares no pueden restar lo que nunca grabaron. El DML mejora cómo de bien cancelas el ruido observado; no mejora qué eres capaz de oír.

Definición. En finanzas el DML responde preguntas de la forma “¿cuál es el efecto causal del tratamiento $T$ sobre el resultado $Y$, ajustando con flexibilidad por todo el conjunto observado de confusores $X$?”:

• Evaluación de alfa / señales. $T$ = la señal (o una versión de ella sobre la que se pueda intervenir), $Y$ = retorno futuro, $X$ = cargas factoriales, sector, tamaño, liquidez, régimen de volatilidad. El DML estima el efecto de la señal neto de todo lo que el zoo de factores reclamaría en otro caso — respondiendo “¿hay alfa tras ortogonalizar respecto a todas las exposiciones conocidas?” con flexibilidad de nivel ML en lugar de una frágil regresión factorial lineal.
• Ejecución / efectos de tratamiento. $T$ = una elección de ejecución (tasa de participación, agresividad de la orden), $Y$ = coste realizado, $X$ = estado de la orden y del mercado. El DML recupera el coste causal de operar más fuerte mientras controla con flexibilidad por las condiciones bajo las que elegiste operar más fuerte.
• Efectos heterogéneos. El DML simple da el $\theta_0$ medio. Sustituye la regresión final residual-sobre-residual por una con modificadores del efecto — o usa un causal forest (el primo local del DML) — para estimar $\theta_0(Z)$: cómo varía el efecto con el régimen, el tamaño o la volatilidad. Aquí es donde “la señal funciona en valores de alta volatilidad pero no en los de baja” se convierte en una afirmación causal estimada, no en un subgrupo extraído por data-mining.

Ejemplo resuelto. El retorno long-short crudo de una señal es del $5\%$ anual. Un plug-in ingenuo (señal más factores en un único modelo con boosting) reporta un efecto causal del $4\%$ — sospechosamente cercano al número crudo, porque el sesgo de regularización dejó que la exposición a factores se filtrara en él. Haz un DML como es debido: residualiza los retornos futuros sobre los factores con un modelo de ML ($\hat g$), residualiza la señal sobre los factores con otro ($\hat m$), haz cross-fitting con pliegues purgados, regresa residual-sobre-residual. El efecto ortogonalizado vuelve en $\theta_0 = 1.2\%$ con un intervalo de confianza que excluye el cero. Interpretación: el $3.8\%$ del $5\%$ crudo era exposición a factores que la señal estaba aproximando (un confusor que puedes comprar barato con un índice), y solo el $1.2\%$ es alfa causal genuino, neutral a la exposición. El $4\%$ del plug-in te habría hecho apalancar un número que era casi todo beta reempaquetado.

Cuándo usarlo

Echa mano del DML cuando puedas de forma creíble enumerar y medir tus confusores pero no puedas de forma creíble especificar su forma funcional — el estado típico del trabajo quant cargado de factores, donde conoces las exposiciones pero no cómo se mapean de forma no lineal a los retornos. Es la herramienta correcta para “estima este efecto neto de decenas de controles conocidos y desordenados”. Es la herramienta equivocada cuando la amenaza es un confusor que no puedes observar (entonces necesitas una fuente exógena de variación) o cuando el solapamiento falla porque el tratamiento es casi determinista en $X$. Usa el DML para conseguir flexibilidad de nivel experto en el ajuste, y mantén intacta tu honestidad de identificación — solo lo observado, solapamiento obligatorio.

Recapitulación

Entraste queriendo controlar por decenas de confusores no lineales con los modelos de ML en los que ya confías, y aprendiste por qué hacerlo de la manera obvia — un gran modelo, leer el tratamiento — está sesgado, no ruidoso: el sesgo de regularización del ajuste de nuisance se filtra en $\theta$ y se niega a diluirse. El DML rescata la situación con tres movimientos. El partialling-out (Frisch-Waugh-Lovell moderno) residualiza tanto el resultado como el tratamiento contra $X$ con ML arbitrario, y luego regresa los residuales — un contratista para el trabajo de nuisance desordenado y una regresión univariante limpia para la respuesta. La ortogonalidad de Neyman aparca el estimador en el fondo plano del cuenco, donde los errores de nuisance entran solo a través de su producto, así que nuisances de ML lentos y sesgados aún producen un $\theta$ de $\sqrt{n}$, normalmente distribuido. El cross-fitting impide que el nuisance corrija sus propios deberes — y en series temporales es CV purgada y en cuarentena, porque la fuga del futuro no es más que autocorrección a través de la autocorrelación. La recompensa es enorme y el límite es nítido: el DML cancela los confusores observados con flexibilidad de nivel ML y exige solapamiento, pero es ciego a los confusores que nunca mediste. Insesgado, honesto y nada mágico.