蒙特卡罗方法概述( 二 )


蒙特卡罗方法概述

文章插图
 
首先,采样得到 q(x) 的一个样本$z 0$,采样方法如上,使用 uniform(0,1) 转换得到 。然后,从均匀分布(0,kq(z0))(0,kq(z0))中采样得到一个值uu 。如果uu落在了上图中的灰色区域,则拒绝这次抽样,否则接受这个样本z0z0 。重复以上过程得到 n 个接受的样本 $z_0,z_1,…z {n−1}$,则最后的蒙特卡罗方法求解结果为:
整个过程中,我们通过一系列的接受拒绝决策来达到用q(x)模拟p(x)概率分布的目的 。
小结使用接受-拒绝采样,我们可以解决一些概率分布不是常见的分布的时候,得到其采样集并用蒙特卡罗方法求和的目的 。但是接受-拒绝采样也只能部分满足我们的需求,在很多时候我们还是很难得到我们的概率分布的样本集 。比如:
  1. 对于一些二维分布p(x,y)p(x,y),有时候我们只能得到条件分布p(x|y)p(x|y)和p(y|x)p(y|x),却很难得到二维分布p(x,y)p(x,y)一般形式,这时我们无法用接受-拒绝采样得到其样本集 。
  2. 对于一些高维的复杂非常见分布p(x1,x2,…,xn)p(x1,x2,…,xn),我们要找到一个合适的q(x)和q(x)和k$非常困难 。
从上面可以看出,要想将蒙特卡罗方法作为一个通用的采样模拟求和的方法,必须解决如何方便得到各种复杂概率分布的对应的采样样本集的问题 。
此时就需要使用一些更加复杂的随机模拟的方法来生成样本 。比如马尔科夫链蒙特卡罗方法,了解这个算法我们首先要对马尔科夫链的平稳分布的性质有基本的认识 。

【蒙特卡罗方法概述】


推荐阅读