sampling – ¿Resultados de convergencia para el muestreo de Block-Gibbs?

Pregunta:

Supongamos que tiene un modelo complejo del que desea obtener una muestra de la cadena de Markov Monte Carlo. Hay muchos tipos de situaciones en las que puede dividir sus variables en, digamos, dos grupos, y muestrear de manera eficiente y exacta las variables en un grupo condicionado a los demás. Es decir, podemos tomar muestras de

$ p(x | y)$

y

$ p(y | x)$

y así ejecutaríamos nuestra muestra de Gibbs extrayendo repetidamente $x$ de $p(x|y)$ y $y$ de $p(y | x)$.

Los ejemplos incluyen la máquina restringida de Boltzmann, mezclas de escala de gaussianas en ciertos modelos de imagen y algunos modelos bayesianos (un bloque para el estado y otro para los parámetros). De todos modos, en la práctica , ser capaz de implementar el muestreo de bloques de Gibbs parece conducir a una mezcla mucho más rápida de la cadena de Markov. Pero, ¿hay algún resultado teórico al respecto? Presumiblemente, las dos distribuciones deberán cumplir algunas condiciones, lo que conducirá a un límite en la conductancia , o un acoplamiento de algún tipo. ¡Gracias por adelantado!

Respuesta:

¿Mucho más rápido que qué? ¿Muestreo univariado de Gibbs?

El muestreo de Gibbs en dos etapas es sin duda el tipo de muestreo de Gibbs más estudiado, comenzando con Tanner y Wong (1987, JASA). En particular, hay un artículo muy logrado de Liu, Wong y Kong (1994, Biometrika), que muestra que la correlación entre $X_t$ (y $Y_t$) es (a) positiva y (b) bajando a cero monótonamente.

El muestreo de Gibbs bloqueado suele ser más eficiente que el muestreo de Gibbs de uno en uno, pero no conozco un resultado general que lo indique. En particular, aumentar la dimensión con variables auxiliares puede mejorar la convergencia; vea el trabajo reciente de Xiao-Li Meng en JCGS como ilustración.

Aquí hay una entrada en este otro foro que trae referencias adicionales.

Leave a Comment

Your email address will not be published.

Scroll to Top

istanbul avukat

-

web tasarım