Por qué el deep learning sufre en finanzas

El deep learning tiene un álbum de éxitos que sonrojaría a cualquier tecnología. Arrasó en ImageNet, aprendió a transcribir voz mejor que un humano cansado y ahora escribe poesía, código y cartas de presentación más que decentes. Así que una persona razonable piensa: apunta esta manguera de potencia expresiva contra la bolsa y jubílate el jueves.

Luego la manguera se topa con el mercado, y el mercado — con educación y a precio de oro — le devuelve hasta el dinero de la merienda.

Aquí va el remate por adelantado: los problemas del deep learning en finanzas no son problemas nuevos. Son exactamente las lecciones de Machine Learning para Alfa subidas al once, puestas en manos de una clase de modelos con millones de parámetros y un talento de primer nivel para memorizar ruido. Todo lo que aprendisteis — el sobreajuste es el enemigo, un coeficiente de información (IC) honesto vive en torno a 0,02–0,05, una R² fuera de muestra de 0,01–0,05 es un buen día, hay que purgar y poner en cuarentena la validación cruzada, hay que desinflar el Sharpe por el número de pruebas — todo eso sigue siendo válido. Solo que muerde más fuerte, porque una red neuronal es un memorizador de ruido mucho más entusiasta que una regresión ridge.

Esta lección es el cimiento del “por qué cuesta tanto” para todo el curso. Una vez que respetáis la dificultad, las herramientas posteriores (RNN, TCN, atención, embeddings) se convierten en bisturíes en lugar de tiros en el pie.

La catástrofe del tamaño muestral efectivo

Analogía. Contar filas brutas de datos en finanzas es como contar fotogramas de un vídeo a cámara lenta y llamar a cada uno una foto independiente. Claro, hay 5.000 fotogramas — pero los fotogramas consecutivos son casi idénticos. La información está en los cambios, y hay muchos menos cambios reales que fotogramas.

Definición. El tamaño muestral efectivo es el número de observaciones efectivamente independientes que contienen tus datos, una vez tenida en cuenta la correlación entre filas. Para una serie con autocorrelación de retardo 1 $\rho$, un ajuste aproximado habitual es

$N_{\text{eff}} \approx N \cdot \frac{1 - \rho}{1 + \rho}.$

Esa fórmula supone una caída sencilla tipo AR(1); la idea de fondo es universal: cada fila correlacionada aporta menos de una fila de información nueva.

Tres multiplicadores encogen a la vez la $N_{\text{eff}}$ financiera:

1. Autocorrelación. Los retornos tienen estructura (recordad el agrupamiento de volatilidad y la autocorrelación de Finanzas de Series Temporales). El régimen de hoy se parece mucho al de ayer.
2. Etiquetas solapadas. Predice el retorno de los próximos 20 días y las muestras consecutivas comparten 19 de 20 días. Toda la maquinaria de CV purgada y en cuarentena de López de Prado existe precisamente porque estas etiquetas se solapan — no son extracciones independientes.
3. No estacionariedad. El mercado de 2010 y el de 2022 no son muestras de la misma distribución. Las filas antiguas describen un juego distinto (este es el problema de estacionariedad de Finanzas de Series Temporales, ahora convertido en un problema de tamaño muestral).

Ejemplo resuelto. Toma 20 años ≈ 5.000 filas diarias. Supón que la señal relevante tiene autocorrelación de retardo 1 $\rho = 0,97$ (alta, pero realista para variables de régimen lentas). Entonces

$N_{\text{eff}} \approx 5000 \cdot \frac{1 - 0.97}{1 + 0.97} = 5000 \cdot \frac{0.03}{1.97} \approx 5000 \cdot 0.0152 \approx 76.$

Setenta y seis. Ahora añade encima etiquetas solapadas de 20 días — divide de nuevo por aproximadamente el factor de solapamiento — y estás coqueteando con decenas de observaciones independientes. Compáralo incluso con un MLP pequeño: una capa oculta de 64 unidades sobre 30 entradas ya tiene $30 \times 64 + 64 = 1984$ pesos, más $64 \times 1 + 1 = 65$ en la capa de salida — unos 2.049 parámetros.

ImageNet juega la proporción al revés: ~14M de ejemplos casi i.i.d. frente a los parámetros del modelo, de modo que cada peso está disciplinado por muchos ejemplos independientes. En finanzas le entregas a un modelo de 2.000 parámetros unas pocas decenas de observaciones reales y le pides que sea humilde. No será humilde.

Cuándo usarlo

Calcula (o al menos estima) el tamaño muestral efectivo antes de elegir la capacidad del modelo — es el presupuesto que tu recuento de parámetros debe respetar. Si $N_{\text{eff}}$ está en las decenas, tu “modelo” debería ser probablemente una regla lineal con un puñado de coeficientes, no una red. El deep learning se gana el sueldo cuando puedes elevar $N_{\text{eff}}$ — agrupando miles de valores, o trabajando en un subproblema de alta frecuencia con muchos eventos genuinamente independientes (más sobre ambos después).

Por qué un MLP corriente sobreajusta Y subajusta a la vez

Analogía. Afinar un MLP sobre retornos es como ajustar una radio cuya emisora emite en un susurro dentro de una tormenta. Sube la ganancia y amplificas la estática (sobreajuste). Activa una cancelación de ruido agresiva y cancelas también el susurro (subajuste). No hay ninguna posición del dial en la que oigas la canción con claridad.

Definición. El error de predicción esperado se descompone como

$\mathbb{E}[\text{error}] = \underbrace{\text{Sesgo}^2}_{\text{demasiado rígido}} + \underbrace{\text{Varianza}}_{\text{demasiado flexible}} + \underbrace{\sigma^2}_{\text{ruido irreducible}}.$

En imágenes $\sigma^2$ es diminuto en relación con la señal: hay un gato, y los píxeles lo gritan. En retornos, $\sigma^2$ domina por órdenes de magnitud — la señal puede explicar un 1–5% de la varianza (el rango de R² fuera de muestra que ya conoces), y el ruido el otro 95–99%. Cuando $\sigma^2$ lo inunda todo, los términos de sesgo y varianza que sí puedes controlar se pelean por las migajas, y reducir uno infla el otro casi sin ganancia neta.

Ejemplo resuelto. Supón que la verdadera ventaja produce un IC mensual dentro de muestra de 0,04. Observa lo que hacen tres niveles de capacidad a un Sharpe reservado (fuera de muestra):

Fíjate en la crueldad: el Sharpe dentro de muestra sube de forma suave y seductora de 0,35 a 3,10, mientras que el número real (fuera de muestra) hace un pico débil y luego se vuelve negativo. La columna de “justo” existe técnicamente, pero en un régimen que se desplaza bajo tus pies, el punto dulce del trimestre pasado es el sobreajuste de este trimestre. Estás apuntando a un blanco que se mueve mientras aprietas el gatillo.

Cuándo usarlo

Un MLP corriente para predicción cruda de retornos rara vez es la primera herramienta acertada — empieza lineal, demuestra que existe una ventaja, y solo añade no linealidad si una prueba de CV purgada, fuera de muestra dice que el modelo lineal deja dinero real sobre la mesa. Si tu Sharpe dentro de muestra se dispara mientras el de fuera se hunde, has encontrado el acantilado del sobreajuste, no alfa.

La aproximación universal es aquí una maldición

Analogía. La aproximación universal es un escultor que puede tallar cualquier cosa de un bloque de mármol. Maravilloso — si el bloque contiene una estatua. En finanzas le entregas al escultor un bloque que es 97% arena y 3% polvo de mármol, y le dices “talla la figura escondida”. Un escultor menos talentoso se encogería de hombros y te daría un bulto tosco (y por accidente acertaría sobre lo poco que hay ahí). El genio talla con confianza una figura intrincada y hermosa a partir de la arena. Esa figura es tu sobreajuste.

Definición. El teorema de aproximación universal afirma que una red feedforward con una sola capa oculta de anchura suficiente puede aproximar cualquier función continua sobre un conjunto compacto con precisión arbitraria. La pega que el teorema nunca menciona: no hace ninguna promesa sobre la generalización. Garantiza que el modelo puede ajustar tus datos de entrenamiento — incluido cada bandazo ruidoso — no que la función ajustada sea la verdadera.

Ejemplo resuelto. Imagina 60 puntos de entrenamiento donde la relación verdadera es $y = 0.05\,x + \varepsilon$ con ruido $\varepsilon$ diez veces mayor que el término $0.05\,x$. Un ajuste lineal recupera una pendiente cercana a 0,05 — modesta, honesta, más o menos correcta. Un MLP ancho puede llevar el error de entrenamiento casi a cero enhebrando una curva sinuosa por los 60 puntos. Descompón lo que cada uno “aprendió”:

La R² de entrenamiento de 0,98 del MLP es sobre todo un retrato de esta muestra de ruido en concreto. El ruido del mes que viene es una muestra distinta, los bandazos no encajan, y el ajuste precioso se evapora. La potencia expresiva convirtió el ruido en falsa confianza.

Cuándo usarlo

Trata la potencia expresiva como algo que gastar deliberadamente, solo allí donde hay estructura demostrable que capturar (interacciones no lineales que un modelo lineal se pierde de forma demostrable, en una prueba purgada y reservada). Por defecto, el modelo menos expresivo que supere el listón. “¿Podría hacer esto un modelo más simple?” debería preceder a cada decisión de arquitectura.

El impuesto de parámetros y pruebas

Analogía. Comprar 200 boletos de lotería y luego presumir del premiado como si demostrara tu sistema. El premio fue selección entre muchas extracciones, no destreza. La búsqueda de arquitecturas es comprar boletos de lotería con tu backtest como sorteo.

Definición. Recuerda el Sharpe desinflado de Machine Learning para Alfa: cuando seleccionas el mejor de $N$ pruebas independientes, el máximo esperado del Sharpe bajo la hipótesis nula (sin destreza real) crece con

$\mathbb{E}[\max \text{SR}] \approx \sigma_{\text{SR}} \cdot \sqrt{2 \ln N},$

donde $\sigma_{\text{SR}}$ es la desviación típica de la estimación del Sharpe de una sola prueba. Cada arquitectura, anchura, profundidad, tasa de aprendizaje y semilla que evalúas es otra $N$. El enorme espacio de configuración del deep learning hace que $N$ explote — y debes restar este sesgo de selección antes de creerte cualquier número.

Ejemplo resuelto. Supón que el Sharpe de un solo backtest tiene ruido de estimación $\sigma_{\text{SR}} = 0.5$. Observa cómo el “mejor” Sharpe esperado bajo la nula sube solo de probar más redes:

Haz la cuenta para $N = 100$: $2 \ln 100 = 2 \times 4.605 = 9.21$, y $\sqrt{9.21} \approx 3.03$, así que el mejor Sharpe esperado por pura suerte es de unos $0.5 \times 3.03 \approx 1.52$. Si tu búsqueda en rejilla sobre 100 redes devuelve un Sharpe de 1,5, has encontrado exactamente lo que predice la aleatoriedad — cero evidencia de destreza. Tu Sharpe desinflado es prácticamente nulo.

Cuándo usarlo

Presupuesta tus pruebas antes de empezar, registra cada configuración y reporta un Sharpe desinflado por el recuento completo — no el recuento por pliegue del superviviente. Prefiere un conjunto pequeño y preregistrado de arquitecturas a una búsqueda desbordada. Si tienes que buscar, reserva un periodo de prueba final, nunca tocado, que ninguna configuración haya visto, y juzga ahí.

Cuándo el deep learning SÍ puede ayudar

Tras cuatro secciones de malas noticias, aquí está el giro: el deep learning no es inútil en finanzas — está mal aplicado cuando se apunta a la predicción de retornos de una sola serie con bajo SNR y baja $N_{\text{eff}}$. Apúntalo donde las matemáticas estén de tu lado y se ganará el sueldo.

Analogía. Un Fórmula 1 es un desastre en el tráfico urbano e imbatible en un circuito. El problema nunca fue el coche; fue conducirlo entre semáforos. Encuentra el circuito.

Los tres circuitos legítimos:

Ejemplo resuelto — amplitud vía agrupación. La ley fundamental de la gestión activa dice que el ratio de información escala como $\text{IR} \approx \text{IC} \cdot \sqrt{\text{amplitud}}$. Un modelo sobre un solo valor con IC diario 0,03 y ~50 apuestas efectivamente independientes: $0.03 \times \sqrt{50} \approx 0.21$ — endeble. Agrupa el mismo modelo sobre 3.000 valores, cada uno aportando apuestas aproximadamente independientes, y la amplitud se dispara. Incluso manteniendo el IC en un modesto 0,03, $0.03 \times \sqrt{3000} \approx 1.64$. La misma destreza por apuesta, muchísima más amplitud — esa es la palanca que el deep learning sí puede mover, porque un modelo compartido aprende ahora de 3.000 ejemplos transversales al día en lugar de un paso temporal.

Cuándo usarlo

Recurre al deep learning cuando al menos una de tres casillas esté marcada: (1) el subproblema es de alto SNR con muchos eventos independientes, (2) puedes agrupar una amplia sección transversal para comprar amplitud, o (3) el reto real es representar datos alternativos no estructurados. Si no hay ninguna marcada — estás prediciendo una serie lenta a partir de unos cientos de filas autocorrelacionadas — cierra el portátil y anota una regla lineal.

Recapitulación

Llegaste esperando que los mercados cayeran ante la misma manguera que aplanó ImageNet. En su lugar aprendiste por qué la manguera rocía sobre todo el suelo: tamaños muestrales efectivos diminutos, una relación señal-ruido que castiga tanto la flexibilidad como la rigidez, un teorema de aproximación que sobre todo da poder al ajuste de ruido, y un espacio de configuración tan grande que la búsqueda de arquitecturas blanquea calladamente el sobreajuste en un Sharpe de vuelta de honor. Y aprendiste dónde encuentra su circuito el Fórmula 1 — microestructura de alto SNR, secciones transversales agrupadas y representación de datos alternativos.