Intervalos de credibilidad y MCMC

Hasta ahora este tema os ha ido entregando distribuciones a posteriori enteras —distribuciones Beta, distribuciones Normales, formas conjugadas pulcras que podéis escribir en una servilleta—. Pero una distribución es un bocado difícil de tragar. Vuestro jefe no quiere una densidad de probabilidad; quiere un número con un margen: “la tasa de aciertos ronda el 67%, más o menos”. Ese resumen es un intervalo de credibilidad, y es lo más útil que podéis decir en voz alta sobre una distribución a posteriori. Hay trampa, eso sí: tiene un gemelo malvado de la estadística frecuentista, el intervalo de confianza, que parece idéntico y significa algo sutil y exasperantemente distinto. Confundirlos es el error más común de toda la estadística aplicada. Luego nos enfrentaremos al problema más duro: la mayoría de las distribuciones a posteriori reales no tienen fórmula de servilleta alguna, y para leerlas tenemos que muestrear, que es donde entra el Montecarlo por cadenas de Markov, el caballo de batalla de la finanza bayesiana moderna.

El intervalo de credibilidad: el resumen que de verdad querías

Analogía. Una distribución a posteriori es una cordillera de plausibilidad: alta donde el parámetro es probable, baja en las estribaciones donde no lo es. Un intervalo de credibilidad es vosotros levantando una valla alrededor de suficiente de ese terreno como para encerrar, pongamos, el 95% de toda la tierra. Dentro de la valla: donde más plausiblemente vive la verdad. La valla es el titular.

Definición. Un intervalo de credibilidad al nivel del 95% es un rango que contiene el parámetro con un 95% de probabilidad a posteriori. Formalmente, integráis la densidad a posteriori hasta que el 95% de su área queda dentro del intervalo. Como un bayesiano trata el parámetro desconocido $\theta$ como una variable aleatoria con una distribución, estáis plenamente legitimados para decir “hay un 95% de probabilidad de que $\theta$ esté aquí dentro”: la probabilidad es una afirmación genuina sobre el parámetro, condicionada a vuestra distribución a priori y a los datos.

Hay dos variantes comunes, que difieren solo en dónde ponéis la valla:

• Intervalo de colas iguales: recortáis un 2,5% de la probabilidad a posteriori de cada cola. Sencillo, simétrico en probabilidad y lo que la mayoría del software reporta por defecto. La pega: para una distribución a posteriori asimétrica puede incluir puntos de baja densidad cerca de una cola mientras excluye puntos de mayor densidad cerca de la otra.
• Intervalo de máxima densidad a posteriori (HPD): el intervalo más corto que contiene el 95% de la probabilidad, construido de forma que todo punto de dentro es más probable que todo punto de fuera. Para una distribución a posteriori simétrica ambos coinciden; para una asimétrica el HPD se abraza al pico y es la región más honesta de “valores más plausibles”.

El intervalo de confianza: el gemelo que significa otra cosa

Analogía. Imaginad una máquina de feria de lanzar aros que, por diseño, ensarta un aro en el palo el 95% de las veces que jugáis. Tras un lanzamiento, el aro yace en el suelo, ya caído: o ensartó el palo o no; ya no hay nada aleatorio. El “95% de aciertos” describe la máquina, no este lanzamiento terminado. Un intervalo de confianza es un lanzamiento terminado de esa máquina. El 95% es una propiedad del método, certificada antes de que mirarais, no una probabilidad adherida al intervalo concreto que ahora descansa sobre vuestra mesa.

Definición. Un frecuentista trata el verdadero parámetro como una constante fija y desconocida: no tiene distribución de probabilidad, así que ningún intervalo puede tener “un 95% de probabilidad de contenerlo”. En su lugar, un intervalo de confianza al 95% es la salida de un procedimiento con esta garantía: si repitierais todo el experimento muchas veces, construyendo un intervalo cada vez, en torno al 95% de esos intervalos contendrían el verdadero valor. La aleatoriedad vive en los datos (y por tanto en los extremos del intervalo), no en el parámetro. Para este intervalo en concreto, la verdad está dentro o no lo está: simplemente no sabéis cuál de las dos. No podéis decir legalmente “un 95% de probabilidad de que el verdadero valor esté en este intervalo”; solo podéis decir “este intervalo salió de un procedimiento que acierta el 95% de las veces”.

Aquí tenéis el contraste expuesto: leed cada fila de lado a lado, porque cada celda cambia de sentido entre las dos columnas:

Ejemplo resuelto: una anchura que encoge según llegan los datos

Volvamos a conectar con la distribución a posteriori de la tasa de aciertos de antes en este tema. Supongamos que partís de una distribución a priori plana $\text{Beta}(1,1)$ sobre la verdadera probabilidad de acierto de una estrategia y observáis 7 aciertos y 3 fallos. Con una actualización conjugada Beta–Binomial, la distribución a posteriori es

$\text{Beta}(1+7,\ 1+3) = \text{Beta}(8,4).$

Su media a posteriori es $8/(8+4) = 0.667$, y el intervalo de credibilidad de colas iguales al 95% sale en torno a 0,39 a 0,89. La frase correcta: “Dada mi distribución a priori y estas 10 operaciones, hay una probabilidad del 95% de que la verdadera tasa de aciertos esté entre el 39% y el 89% aproximadamente”. Es un rango enorme, y eso es la distribución a posteriori siendo honesta. Diez operaciones es casi nada; los datos apenas movieron la a priori, así que el intervalo es ancho.

Ahora echad más cantidad de la misma tasa de aciertos. Observad 70 aciertos y 30 fallos —la misma tasa del 70%, diez veces los datos—:

$\text{Beta}(1+70,\ 1+30) = \text{Beta}(71,31),$

con media $71/102 \approx 0.696$ y un intervalo de credibilidad al 95% de aproximadamente 0,60 a 0,78. La misma estimación central, pero el intervalo se ha desplomado de 50 puntos porcentuales de ancho a 18. Diez veces más datos, y la valla se cierra prieta en torno a la verdad.

Esa anchura que encoge es el sentido entero de un intervalo de credibilidad: reporta no solo vuestra mejor conjetura sino cuánto deberíais fiaros de ella. Pocos datos, valla ancha; muchos datos, valla estrecha. Una estimación puntual por sí sola habría ocultado la diferencia entre “70%, básicamente una conjetura” y “70%, clavado”.

Por qué existe el MCMC: la constante que no puedes calcular

Analogía. La regla de Bayes es una receta con un ingrediente monstruoso. La a posteriori $\propto$ verosimilitud $\times$ a priori es fácil de escribir; el problema es la proporcionalidad. Para convertirla en una distribución de probabilidad de verdad debéis dividir por una constante de normalización que haga que todo integre a 1, y esa constante es una integral sobre cada valor posible de cada parámetro a la vez. Para los casos conjugados de las lecciones 3 y 4 la integral tiene forma cerrada, así que la constante se cancela gratis. Para casi todo lo demás, es una integral de alta dimensión sin fórmula. Calcularla directamente es como pesar una nube midiendo cada gota de agua.

Definición. La regla de Bayes dice que la distribución a posteriori es

$P(\theta \mid D) = \frac{P(D \mid \theta)\,P(\theta)}{P(D)},$

donde el denominador, la verosimilitud marginal $P(D) = \int P(D \mid \theta)\,P(\theta)\,d\theta$, es la desagradable integral de normalización sobre todo el espacio de parámetros. Las distribuciones a priori conjugadas son precisamente los casos especiales donde esta integral se resuelve en una constante conocida. En cuanto vuestro modelo es mínimamente realista —varios parámetros correlacionados, una verosimilitud no conjugada, una jerarquía entre activos—, $P(D)$ se vuelve intratable, y no podéis escribir la distribución a posteriori.

La vía de escape es profunda: no necesitáis $P(D)$ para extraer muestras de la distribución a posteriori. Si podéis producir un montón grande de muestras distribuidas según $P(\theta \mid D)$, entonces cualquier resumen que queráis —la media a posteriori, la varianza, un intervalo de credibilidad al 95%, la probabilidad de que $\theta$ supere algún umbral— es simplemente una cantidad que leéis de ese montón. El muestreo sustituye a la integración. Eso es lo que entrega el Montecarlo por cadenas de Markov (MCMC).

Montecarlo por cadenas de Markov, de un vistazo

Desempaquetad el nombre en dos mitades:

• Montecarlo = estimar cantidades promediando sobre muestras aleatorias en vez de hacer la integral analíticamente. ¿Queréis la media a posteriori? Promediad vuestras muestras. ¿Queréis un intervalo de credibilidad? Tomad los percentiles 2,5 y 97,5 de vuestras muestras. El montón de extracciones hace de sustituto de la distribución.
• Cadena de Markov = una secuencia donde cada muestra depende solo de la anterior, no de toda la historia. El MCMC genera sus muestras paseando una cadena por el espacio de parámetros, empujando cada paso a partir del último, diseñada de forma que —a la larga— la cadena visite cada región en proporción a su probabilidad a posteriori.

El algoritmo de Metropolis(-Hastings)

Aquí está el truco que vuelve irrelevante la constante imposible. El algoritmo de Metropolis pasea el espacio de parámetros así:

1. Propone un movimiento cercano: desde tu posición actual, salta a un punto candidato a un pequeño paso aleatorio de distancia.
2. Calcula el cociente de las densidades a posteriori sin normalizar, nueva entre vieja: $r = \dfrac{P(D \mid \theta_{\text{new}})\,P(\theta_{\text{new}})}{P(D \mid \theta_{\text{old}})\,P(\theta_{\text{old}})}$.
3. Acepta o rechaza. Si el nuevo punto es más probable ($r \ge 1$), muévete siempre allí. Si es menos probable, muévete allí solo con probabilidad $r$ (lanza una moneda sesgada); en caso contrario, quédate quieto.
4. Anota donde quiera que estés ahora: esa es una muestra.
5. Repite miles de veces.

La magia está en el paso 2. A ambas densidades les falta la misma constante de normalización $P(D)$, así que cuando tomas su cociente, la constante se cancela. Nunca calculas la integral intratable: solo necesitas el fácil producto verosimilitud $\times$ a priori, evaluado en dos puntos. Como la cadena acepta siempre los movimientos hacia arriba y solo probabilísticamente los de hacia abajo, se demora en las regiones de alta probabilidad y solo de vez en cuando deambula hacia las estribaciones. Hazla correr lo suficiente y el histograma de los puntos visitados aproxima la distribución a posteriori, exactamente el montón de muestras que querías.

Juega con el muestreador de arriba para notar el algoritmo. Con el tamaño del paso minúsculo, casi todo movimiento propuesto se acepta (apenas difiere de donde estás), pero la cadena avanza a pasitos y tarda una eternidad en explorar toda la distribución a posteriori. Con el tamaño del paso enorme, las propuestas aterrizan rutinariamente en regiones de baja probabilidad y se rechazan, así que el marcador se queda congelado, también desperdiciando muestras. Un tamaño del paso moderado —una tasa de aceptación sensata, a menudo citada cerca del 25%–50% para estos muestreadores de paseo aleatorio— mezcla más rápido, pintando el histograma sobre la curva objetivo en el menor número de pasos.

Rodaje, mezcla y convergencia

Dos arrugas prácticas mantienen honesto al MCMC:

• Rodaje (burn-in). La cadena empieza donde quiera que la dejaste caer, posiblemente en un punto absurdo de baja probabilidad, y necesita tiempo para deambular hacia la parte jugosa de la distribución a posteriori y olvidar su punto de partida arbitrario. Las muestras tempranas están sesgadas por ese arranque, así que las descartas —el periodo de rodaje— y te quedas solo con lo que viene después. Activa el rodaje en el muestreador y mira cómo esas primeras muestras extraviadas se desvanecen del histograma.
• Autocorrelación y mezcla. Como cada muestra es un pequeño empujón desde la anterior, las muestras consecutivas están correlacionadas: no son extracciones independientes. Un tamaño del paso demasiado pequeño da alta autocorrelación y exploración lenta (mala “mezcla”); demasiado grande da rechazo constante y la cadena se atasca. Una buena mezcla significa que la cadena vaga con libertad y las muestras consecutivas se descorrelacionan rápido. Para comprobar que la cadena de verdad convergió, los profesionales miran a ojo los gráficos de traza (el valor del parámetro a lo largo de las iteraciones debería parecer una oruga difusa estacionaria, no una tendencia a la deriva) y calculan el estadístico R-hat, que compara varias cadenas independientes y debería rondar el 1,0.

Gibbs, Montecarlo hamiltoniano y NUTS

Metropolis es el ancestro conceptual; la práctica moderna usa herramientas más afiladas. El muestreo de Gibbs actualiza un parámetro cada vez extrayendo de su distribución condicional dados todos los demás, lo cual es eficiente cuando esas condicionales tienen formas conocidas. El Montecarlo hamiltoniano (HMC) y su variante autoajustable NUTS (el No-U-Turn Sampler) toman prestada física: tratan la distribución a posteriori como un paisaje y “ruedan” una partícula por ella usando información de gradiente, así que dan pasos largos y bien apuntados en vez de un paseo aleatorio a ciegas, explorando distribuciones a posteriori de alta dimensión mucho más eficientemente. Esto es lo que herramientas de producción como Stan y PyMC ejecutan por debajo; veréis sus nombres siempre que alguien ajuste un modelo bayesiano serio.

Usos en finanzas: donde se acaban las formas cerradas

Las distribuciones a posteriori conjugadas son preciosas pero raras; los modelos financieros reales casi nunca las tienen, que es exactamente por qué el MCMC está por todas partes en la finanza cuantitativa:

• Modelos de volatilidad estocástica. Una volatilidad que ella misma vaga aleatoriamente (pensad en ajustar modelos donde la varianza es un estado oculto que varía en el tiempo) da una distribución a posteriori sin forma cerrada. La estimación bayesiana vía MCMC es una vía estándar para inferir la trayectoria de la volatilidad y sus parámetros junto con una incertidumbre honesta.
• Incertidumbre paramétrica en modelos de opciones. Los modelos de valoración dependen de parámetros que debes estimar, y enchufar estimaciones puntuales oculta lo poco firmes que son. El MCMC da una distribución a posteriori completa sobre esos parámetros, que puedes propagar a una distribución de precios en vez de a un único número engañosamente preciso.
• Modelos jerárquicos entre activos. Cuando estimas, pongamos, el alfa de muchos fondos a la vez, un modelo jerárquico (multinivel) deja que cada fondo tome prestada fuerza del grupo, encogiendo las estimaciones individuales salvajes hacia la media agrupada. Estos modelos casi nunca son conjugados, así que el MCMC es el motor estándar, devolviendo intervalos de credibilidad para cada activo y para los parámetros compartidos del grupo.

El hilo común: allá donde la distribución a posteriori no tiene forma cerrada, el MCMC convierte “no puedo escribir esta distribución” en “puedo extraer 10.000 muestras de ella y leer cualquier resumen que quiera”.

Trampas

Llamar a un intervalo de confianza intervalo de credibilidad (el error nº 1). Es erróneo, y ubicuo, adjuntar una afirmación de probabilidad a posteriori (“un 95% de probabilidad de que la verdad esté aquí dentro”) a un intervalo de confianza frecuentista. Solo un intervalo de credibilidad —que requiere una a priori y trata el parámetro como aleatorio— lleva ese significado. Si no pusiste una a priori sobre el parámetro, no construiste un intervalo de credibilidad, y no puedes hacer la afirmación del intervalo de credibilidad.

Pensar que más muestras arreglan una cadena sesgada o no convergida. La garantía del MCMC es asintótica solo si la cadena de verdad ha convergido a la distribución a posteriori. Si está atascada en una moda, no ha alcanzado la región de alta probabilidad o mezcla fatal, extraer diez veces más muestras solo te da diez veces más muestras de la distribución equivocada. Convergencia no es lo mismo que número de muestras. Diagnostica la convergencia (R-hat, múltiples cadenas, gráficos de traza) antes de fiarte de la respuesta; el volumen por sí solo nunca rescata una cadena rota.

Olvidar el rodaje. Conserva las muestras tempranas, contaminadas por el arranque, y sesgarás cada resumen hacia donde quiera que hayas inicializado la cadena. Descarta siempre el rodaje.

Leer una única traza afortunada como prueba de convergencia. Un gráfico de traza de aspecto suave es necesario pero no suficiente. Una cadena atrapada en una sola moda puede producir una traza perfectamente tranquila mientras se pierde por completo otras regiones de la distribución a posteriori. Corre varias cadenas independientes desde distintos puntos de partida y confirma que coinciden (R-hat cerca de 1,0) antes de cantar victoria.

Credibilidad frente a confianza: dilo bien

Grábate la distinción a fuego, porque es la línea donde la mayoría resbala:

• Intervalo de credibilidad (bayesiano): el parámetro es aleatorio (tiene una a posteriori); el 95% es la probabilidad de que la verdad esté en este intervalo; necesita una a priori. Frase legal: “Hay una probabilidad del 95% de que el verdadero valor esté en este intervalo”.
• Intervalo de confianza (frecuentista): el parámetro es una constante fija; el 95% es la tasa de aciertos a largo plazo del procedimiento a lo largo de hipotéticas repeticiones; sin a priori. Frase legal: “el 95% de los intervalos construidos así contienen el verdadero valor”. Ilegal: “un 95% de probabilidad de que la verdad esté en este”.

Si de esta lección solo recordáis una cosa: la frase de andar por casa “un 95% de probabilidad de que el verdadero valor esté en este intervalo” es cierta para un intervalo de credibilidad y falsa para un intervalo de confianza. Sobre el papel se ven iguales; significan cosas distintas.

Atándolo todo

Un intervalo de credibilidad es el resumen titular de una distribución a posteriori: un rango que lleva una probabilidad a posteriori declarada, así que puedes decir legítimamente “hay una probabilidad del 95% de que la verdad esté aquí dentro”, justo lo que la gente dice erróneamente sobre un intervalo de confianza frecuentista (cuyo 95% va en realidad sobre el procedimiento a largo plazo, no sobre tu intervalo concreto). Los intervalos de credibilidad vienen en variantes de colas iguales y de HPD más corto, y se ensanchan con pocos datos y se estrechan según se amontona la evidencia: honestidad sobre cuánto fiarte de tu estimación. Cuando la distribución a posteriori no tiene forma cerrada —que es casi siempre, en cuanto un modelo se vuelve realista—, la constante de normalización $P(D)$ se vuelve una integral intratable, y el MCMC la esquiva muestreando: Metropolis propone movimientos cercanos y los acepta vía un cociente de densidades en el que esa constante se cancela, así que el histograma de los puntos visitados converge a la distribución a posteriori. Cuida el oficio —rodaje, mezcla y convergencia genuina (R-hat, múltiples cadenas)— y recuerda que más muestras nunca arreglan una cadena no convergida. De Gibbs al HMC/NUTS moderno en Stan y PyMC, esta maquinaria es lo que permite a la finanza bayesiana ajustar modelos de volatilidad estocástica, de valoración de opciones y jerárquicos que ninguna fórmula podría jamás expresar.

Ahora podéis leer una distribución a posteriori en voz alta —un intervalo de credibilidad que dice exactamente lo que significa, nunca confundido con su gemelo frecuentista— y podéis obtener una distribución a posteriori incluso cuando no existe fórmula, muestreándola con MCMC y cancelando la constante que nadie puede calcular. Eso completa el kit de herramientas: de las distribuciones a priori y las verosimilitudes, pasando por las actualizaciones conjugadas, hasta muestrear lo intratable. A continuación, ponemos todo el tema a prueba.