A priori conjugadas y actualización secuencial

En las dos lecciones anteriores aprendiste la maquinaria de la regla de Bayes: una creencia a priori, una verosimilitud para los datos y una a posteriori que las mezcla. También conociste el secreto sucio de esa maquinaria: el denominador. Para normalizar la a posteriori debes calcular la probabilidad marginal de los datos, $P(D) = \int P(D \mid \theta)\,P(\theta)\,d\theta$, y esa integral es, en general, una pesadilla. Para la mayoría de los pares a priori–verosimilitud recurres a la integración numérica o a MCMC y lo das por zanjado.

Pero hay un rincón pequeño y precioso del mundo bayesiano donde la integral se evapora — donde actualizar es tan barato que puedes hacerlo de cabeza, operación a operación, según llegan los datos. Ese rincón es la conjugación, y su estandarte es la pregunta que en secreto importa a todo cuant: ¿cuál es la verdadera tasa de aciertos de mi estrategia y cómo debería empujar mi creencia cada nueva operación? Esta lección trata de responder a eso en forma cerrada, sin nada más complicado que una suma.

El problema: estimar una probabilidad a partir de un flujo de aciertos y fallos

El planteamiento. Tienes una estrategia. Cada operación es, en una primera aproximación, una moneda al aire con cierta probabilidad real de acierto $p$ desconocida — acierta con probabilidad $p$, falla con probabilidad $1 - p$. Quieres estimar $p$, y quieres hacerlo según ocurren las operaciones, actualizando tu creencia tras cada una en lugar de esperar a un lote gigante.

La respuesta ingenua es la frecuencia muestral: 7 aciertos de 10 da $\hat{p} = 0.70$. Pero tras solo 10 operaciones esa estimación es tremendamente inestable — convierte dos fallos en aciertos y salta a 0,90. Una frecuencia tira a la basura dos cosas que en realidad tienes: cualquier conocimiento previo («la mayoría de las ventajas son pequeñas, cerca del 50 %») y cualquier medida honesta de cuánta incertidumbre aún tienes. El enfoque bayesiano conserva ambas.

Por qué la integral es el obstáculo. Cada operación es una extracción Bernoulli, y un lote de $n$ operaciones con $s$ aciertos es Binomial. La verosimilitud de ver $s$ aciertos en $n$ operaciones es $p^{s}(1-p)^{n-s}$ (por una constante de recuento). Para convertir una a priori sobre $p$ en una a posteriori, Bayes exige que dividas entre $\int_0^1 p^{s}(1-p)^{n-s}\,P(p)\,dp$. Para una a priori arbitraria, esa es una integral que preferirías no hacer a mano después de cada operación. La conjugación es el truco que la hace gratis.

A priori conjugadas: cuando la a posteriori se queda en la familia

Analogía. Piensa en una a priori como una forma de arcilla y en los datos como manos que la presionan. Para la mayoría de las arcillas, presionar produce un nuevo amasijo impredecible que tienes que volver a medir desde cero. Una arcilla conjugada es especial: después de presionarla, sigue siendo reconociblemente la misma clase de forma — la misma familia, solo que con nuevas dimensiones. No vuelves a deducir nada; lees los nuevos parámetros directamente.

Definición. Una a priori es conjugada a una verosimilitud si la a posteriori resultante pertenece a la misma familia distribucional que la a priori. La familia es cerrada bajo la actualización bayesiana. Cuando eso se cumple, la temible integral normalizadora está garantizado que resulta ser la constante que mantiene válida la familia conocida — así que nunca la calculas explícitamente. Solo actualizas los parámetros.

Para una verosimilitud Bernoulli/Binomial, la a priori conjugada es la distribución Beta. Entran a priori Beta, salen a posteriori Beta, para siempre. Esa es toda la razón por la que el par Beta–Binomial es el primer modelo conjugado que todo el mundo aprende.

La distribución Beta, definida

La distribución Beta, escrita $\text{Beta}(\alpha, \beta)$, es una distribución de probabilidad sobre probabilidades: su soporte es el intervalo $[0, 1]$, exactamente el rango en el que puede vivir una tasa de aciertos $p$. Tiene dos parámetros de forma positivos, $\alpha$ y $\beta$, y su media es

$\mathbb{E}[p] = \frac{\alpha}{\alpha + \beta}.$

La intuición que hace que todo encaje: $\alpha$ se comporta como un recuento de éxitos previos y $\beta$ como un recuento de fracasos previos. Más precisamente, $\alpha \approx (\text{aciertos previos}) + 1$ y $\beta \approx (\text{fallos previos}) + 1$, pero ese «más uno» es un tecnicismo — el espíritu es «alfa son aciertos, beta son fallos». Una Beta cuyos $\alpha$ y $\beta$ son ambos grandes es una creencia confiada (un pico alto y estrecho); una donde ambos son pequeños es vaga (una mancha ancha y plana).

El caso especial plano merece memorizarse: $\text{Beta}(1, 1)$ es la distribución uniforme sobre $[0, 1]$ — cada tasa de aciertos de 0 a 1 igual de plausible, una a priori «no sé nada» perfecta. Su media es $1/(1+1) = 0.5$, justo en el centro.

La regla de actualización: solo suma los recuentos

Aquí está la recompensa, y es casi sospechosamente simple. Parte de una a priori $\text{Beta}(\alpha, \beta)$. Observa $s$ éxitos (aciertos) y $f$ fracasos (fallos). La a posteriori es:

$\text{Beta}(\alpha,\beta)\xrightarrow{\;s\text{ aciertos},\,f\text{ fallos}\;}\text{Beta}(\alpha+s,\beta+f).$

Eso es todo. Suma los aciertos a $\alpha$, suma los fallos a $\beta$. Sin integral, sin constante normalizadora, sin MCMC. La garantía de conjugación hizo el cálculo por ti de antemano, una vez, para siempre. Por eso quienes ajustan tasas de aciertos bayesianas lo hacen con un lápiz mientras los demás ponen en marcha un muestreador.

Actualización secuencial — la propiedad que hace mágico esto. Como la a posteriori es a su vez una Beta, puedes alimentarla con la siguiente observación como si fuera una a priori fresca. La a posteriori de hoy es la a priori de mañana. De ahí caen gratis tres consecuencias:

• Una a una equivale a todas a la vez. Actualizar tras cada una de 10 operaciones, o una sola vez con el lote de 10, aterriza en la idéntica a posteriori. Sumar 1 a $\alpha$ diez veces equivale a sumar 10 una vez.
• El orden no importa. AFAAF o FAAFA — la misma $\text{Beta}$ final, porque la suma es conmutativa. Los datos son solo dos cuentas corrientes: total de aciertos, total de fallos.
• Es un algoritmo en línea. Mantienes dos números en memoria y los incrementas según se imprimen las operaciones. Sin releer el historial, sin un conjunto de datos que crece. Perfecto para una estrategia en vivo.

El gráfico de abajo es la lección en movimiento. Dibuja tu creencia $\text{Beta}$ actual sobre la tasa de aciertos, con una línea de media a posteriori y una banda de credibilidad del 90 %. Pulsa +Acierto y +Fallo para alimentarla con operaciones sueltas y observa cómo la curva se afila y se desliza hacia los datos; pulsa +10 para volcar un lote y sentir lo rápido que un montón de evidencia estrecha el pico. Luego juega con la a priori: fija una $\text{Beta}(1,1)$ plana con los deslizadores y fíjate en lo rápido que incluso unas pocas operaciones toman el mando, frente a una a priori informativa fuerte que se resiste obstinadamente. Toda la intuición de «los datos acaban dominando la a priori» está a un arrastre de deslizador.

Una a priori es pseudodatos

Una vez interiorizas «$\alpha$ son aciertos, $\beta$ son fallos», aparece una interpretación preciosa: una a priori son simplemente datos que finges haber visto ya.

Una a priori $\text{Beta}(8, 2)$ es como si ya hubieras observado 8 aciertos y 2 fallos antes de que empezaran las operaciones reales — una a priori informativa «que vale» unas 10 operaciones falsas, centrada en una media de $8/10 = 0.8$. Cuando llegan datos reales, compiten con esas 10 pseudoobservaciones en pie de igualdad. Diez operaciones reales aproximadamente igualarán el peso de la a priori; cien operaciones reales lo anegarán.

Contrasta con la $\text{Beta}(1, 1)$ plana: vale casi nada (un solo pseudoacierto y un solo pseudofallo). Los datos reales la abruman casi de inmediato, que es exactamente por qué una a priori plana deja brillar rápido la frecuencia muestral. La fuerza de una a priori Beta se mide literalmente por $\alpha + \beta$ — su pseudorrecuento o «concentración». Suma grande, a priori obstinada; suma pequeña, a priori pusilánime.

Ejemplo resuelto: una a priori plana se encuentra con los datos

Hagamos la aritmética a fondo. Empiezas siendo agnóstico — a priori plana $\text{Beta}(1, 1)$ — y observas 7 aciertos y 3 fallos en 10 operaciones.

La actualización. Suma los recuentos: $\alpha = 1 + 7 = 8$ y $\beta = 1 + 3 = 4$. La a posteriori es $\text{Beta}(8, 4)$.

La media a posteriori.

$\mathbb{E}[p] = \frac{\alpha}{\alpha + \beta} = \frac{8}{8 + 4} = \frac{8}{12} \approx 0.667.$

Así que tu mejor estimación puntual de la tasa de aciertos es de en torno al 66,7 %. Compárala con la frecuencia ingenua, $7/10 = 0.70$. La a priori tiró de la estimación hacia abajo, hacia su propia media de 0,5 — por poco, porque una a priori plana es débil (pseudorrecuento de solo 2 frente a 10 operaciones reales). El compromiso queda mucho más cerca de los datos que de la a priori, que es exactamente lo que debe hacer una a priori débil.

Ejemplo resuelto: una a priori escéptica se actualiza menos

Ahora supón que eres un escéptico curtido que duda de que existan ventajas — crees que las tasas de aciertos se agrupan en torno al 50 %, y estás moderadamente seguro de ello. Codifica eso como $\text{Beta}(5, 5)$: media $5/10 = 0.5$, con un pseudorrecuento de 10 (vale diez operaciones falsas repartidas a partes iguales).

Aliméntala con los mismos 7 aciertos, 3 fallos:

$\text{Beta}(5, 5) \xrightarrow{\;7\text{ aciertos},\,3\text{ fallos}\;} \text{Beta}(5 + 7,\; 5 + 3) = \text{Beta}(12, 8).$

Media a posteriori: $12/(12+8) = 12/20 = 0.60$, es decir, 60 %.

Los mismos datos movieron al escéptico solo de 0,50 a 0,60 — un desplazamiento de 10 puntos —, mientras que movieron al agnóstico de 0,50 a 0,667, un desplazamiento de 16,7 puntos. La a priori del escéptico cargaba 10 pseudooperaciones, así que las 10 operaciones reales tuvieron que repartir la influencia mitad y mitad; la a priori del agnóstico no cargaba casi nada, así que los datos llevaron la voz cantante. A priori más fuerte, actualización menor. Aquí está lado a lado:

Las mismas diez operaciones, tres conclusiones distintas — y la diferencia es enteramente el pseudopeso de la a priori. La frecuencia ingenua no es más que el caso límite de una a priori con peso cero.

La media a posteriori es un estimador de contracción

Da un paso atrás y fíjate en lo que la media a posteriori es: un promedio ponderado de la media a priori y la frecuencia muestral. Escribe el pseudorrecuento a priori como $\alpha + \beta$ y los datos como $s$ aciertos en $n = s + f$ operaciones. Entonces

$\underbrace{\frac{\alpha + s}{\alpha + \beta + n}}_{\text{media a posteriori}} = \underbrace{\frac{\alpha + \beta}{\alpha + \beta + n}}_{\text{peso sobre la a priori}}\cdot\underbrace{\frac{\alpha}{\alpha + \beta}}_{\text{media a priori}} \;+\; \underbrace{\frac{n}{\alpha + \beta + n}}_{\text{peso sobre los datos}}\cdot\underbrace{\frac{s}{n}}_{\text{frecuencia muestral}}.$

La media a posteriori contrae la ruidosa frecuencia muestral hacia la media a priori, y los pesos son exactamente los dos pseudorrecuentos. Cuando $n$ es minúsculo la a priori domina; cuando $n \to \infty$ los datos ganan y la media a posteriori converge a la verdad. Este es tu primer sabor de la contracción — tirar de una estimación salvaje hacia un ancla sensata para reducir su varianza —, que la lección 5 desarrolla por completo. La a priori es, literalmente, el ancla.

Y la incertidumbre también se encoge. El intervalo de credibilidad del 90 % de la a posteriori — el rango que contiene el 90 % de la probabilidad de la creencia — es ancho cuando $\alpha + \beta$ es pequeño y se estrecha a medida que se acumulan operaciones. Tras 10 operaciones es vergonzosamente ancho; tras 1.000 es una astilla. (La lección 6 precisa los intervalos de credibilidad; por ahora, solo observa cómo la banda del gráfico se contrae a medida que la alimentas con datos.)

Errores a evitar

• «La a priori nunca se desvanece.» Falso. Con suficientes datos, el pseudorrecuento fijo de la a priori queda abrumado por el $n$ creciente, y la a posteriori converge a la verdad sin importar dónde empezaste (siempre que la a priori no asignara probabilidad cero al valor verdadero). Una a priori razonable son ruedines, no un sesgo permanente.
• «Usa la a priori más fuerte que puedas para tener confianza.» Peligroso. Una a priori «no-ventaja» $\text{Beta}(500, 500)$ ignorará cientos de operaciones genuinamente ganadoras y seguirá insistiendo en que la estrategia es una moneda al aire. Una a priori demasiado fuerte no es rigor — es terquedad que se niega a aprender. Ajusta la fuerza de la a priori a cuánto realmente sabes.
• «Diez operaciones fijaron la tasa de aciertos.» No. Las muestras pequeñas dan a posteriori anchas. Tratar la media de 10 operaciones como un hecho zanjado es como la gente despliega capital sobre ruido. Todo el sentido de la Beta es que te muestra la incertidumbre restante — no la descartes.
• «El orden o el agrupamiento cambia la respuesta.» No. Las actualizaciones secuenciales y por lotes, en cualquier orden, alcanzan la idéntica a posteriori. Si tus dos cálculos discrepan, cometiste un error aritmético.

Cuándo la conjugación es la herramienta adecuada

Recurre al modelo conjugado Beta–Binomial cuando la situación encaje con su forma:

• Actualización en línea rápida. Una estrategia en vivo imprimiendo operaciones, donde quieres revisar tu creencia sobre la tasa de aciertos al instante tras cada resultado sin volver a ejecutar nada pesado. Dos contadores, incrementados — esa es toda la implementación.
• Datos limitados. Cuando tienes pocas observaciones, el tirón regularizador de la a priori ayuda de verdad: estabiliza una estimación que la frecuencia bruta dejaría oscilar salvajemente. La conjugación lo hace principiado y barato.
• Preguntas sí/no estilo A/B. Acierto-o-fallo, clic-o-no-clic, conversión-o-rebote, sube-o-baja — cualquier resultado binario con una tasa desconocida es un problema Beta–Binomial de manual.

Y conoce sus límites. La conjugación solo te da la forma cerrada para pares a priori–verosimilitud que encajan, y la mayoría de las preguntas reales no se reducen a ensayos de Bernoulli. Los rendimientos de las operaciones son continuos y aproximadamente acampanados, no aciertos y fallos — modelar su media exige otro par conjugado, el Normal–Normal, que es exactamente adonde va la lección 4 a continuación. Cuando ninguna a priori conjugada encaja con tu verosimilitud, vuelves a los métodos numéricos (MCMC), el tema de las lecciones siguientes. La conjugación es un regalo; solo que no es uno universal.

Juntándolo todo

El modelo conjugado Beta–Binomial convierte la estimación bayesiana de la tasa de aciertos en aritmética. Una a priori $\text{Beta}(\alpha, \beta)$ — una distribución sobre la probabilidad $p$, con media $\alpha/(\alpha+\beta)$ y $\alpha$ actuando como aciertos previos, $\beta$ como fallos previos — se encuentra con datos Bernoulli/Binomial y produce una a posteriori en la misma familia, así que la temida integral marginal nunca aparece. La actualización es pura suma: $\text{Beta}(\alpha + s, \beta + f)$. Las actualizaciones se componen — la a posteriori de hoy es la a priori de mañana, sin importar el orden, idéntica por lotes o en flujo —, lo que la convierte en un aprendiz en línea perfecto. La a priori son pseudodatos con peso $\alpha + \beta$: las a priori débiles (como la plana $\text{Beta}(1,1)$) dejan que los datos tomen el mando rápido, las a priori fuertes se resisten. La media a posteriori es un estimador de contracción, un promedio ponderado de la media a priori y la frecuencia muestral, y su intervalo de credibilidad se estrecha a medida que se apila la evidencia. Úsalo para preguntas rápidas, de pocos datos y de resultado binario — y pásate a Normal–Normal cuando los datos sean rendimientos continuos en lugar de aciertos y fallos.

A continuación —El modelo conjugado Normal–Normal— dejamos el mundo de los aciertos y los fallos y abordamos la magnitud sobre la que de verdad operas: un rendimiento continuo. Cuando pones una a priori Normal sobre un rendimiento medio desconocido y observas datos distribuidos Normalmente, la a posteriori vuelve a ser Normal en forma cerrada, y su media resulta ser una mezcla ponderada por precisión de la a priori y los datos — la mismísima idea de contracción que acabas de conocer, ahora para la campana de Gauss.