江苏龙网

  1. 首页 > 生活 > >

怎么样理解贝叶斯模型平均（Bayes model averaging）

BMA的基本步骤是：设定待组合模型的先验概率和各个模型中参数的先验分布，然后用经典的贝叶斯方法进行统计推断。早期的理论研究工作包括Min \u0026amp; Zellner(1993)、 Madigan \u0026amp; Raftery (1994)、 Raftery (1995, 1996)、 Draper (1995)、 Reftery,Madigan \u0026amp; Hoeting (1997)、 Clyde (1999) 等； Hoeting, Madigan, Raftery \u0026amp; Volin-sky (1999)和Clyde \u0026amp; George (2004)则对这些工作做了阶段性的总结。随着理论研究的发展，BMA也被广泛应用，比如Fernández, Ley \u0026amp; Steel (2001)和Brock\u0026amp; Durlauf (2001)用BMA方法研究了经济增长理论；Chotikapanich \u0026amp; Griffiths(2005)用BMA估计洛伦茨曲线。关于BMA方法的最新进展见Magnus, Powell \u0026amp;Prüfer (2010)。 该文基于Laplace先验分布提出了WALS(Weighted Average LeastSquares)模型平均方法。Wan \u0026amp; Zhang (2009)将WALS方法应用于旅游业研究中； Magnus, Wan \u0026amp; Zhang (2010)则将WALS方法推广到异方差的情形。尽管BMA方法已经得到了长足的发展，但是它存在一些严重的问题。其一是如何确定各个模型的先验概率， 因为不同的先验概率一般对BMA方法的结果影响较大；其二是使用BMA方法时可能针对待估计参数混合一些矛盾的先验，导致直观上难以解释(Hjort \u0026amp; Claeskens 2003)；其三是BMA一般要求真实的模型在所考虑的一类模型之中，然而实际中真实的模型一般会更加复杂(Hansen.2008)以上为引用中科院张新雨老师的论文，目前来看fma发展研究的更多一些，比较贝叶斯需要计算先验概率，如果变量和样本量很大的情况下，计算复杂度太大。张老师是国内做模型平均比较厉害的以为了，有兴趣可以看看他的论文，国外的就是这个Hansen了
■网友
（看懂本答案，无需了解贝叶斯）首先说下，题主的题目写得有点问题。在绝大部分国内外参考文献中，BMA的全称是Bayesian Model Averaging而不是题主题目中所写的Bayes...，这个问题还请题主注意下。题主的问题对于普及推广BMA理论方法，很有积极作用，所以我们需要保证基本的概念无误。然后开始正文。「1」-BMA中有个很重要的东西叫做，“集合预报成员”。比如用BMA处理来自于N个模型的模拟结果，即集合预报成员数目为N。「2」-BMA就是围绕着如何利用这N个集合预报成员，这个问题展开的。「3」-以往相似的集合预报技术：平均：N个成员相同权重，求和加权平均：N个成员不同权重，求和BPNN: N个成员不同“信号强度”，经s函数转换后得到新的N个成员，再以不同权重加权，求和。 而BMA则不同，严格意义上讲，BMA理论中没有权重、信号强度概念，ta以成员“为最优成员的概率”（先验）替代权重等概念，以全概率公式描述变量（后验）概率分布。「4」-基于以上知识，BMA的原理可以这么理解。想知道某变量的（后验）概率分布？Step1 -依照各成员的相对最优的概率，挑选本次计算过程的最优成员Step2-利用该成员计算得到其可能的预报值，经线性转换得到变量相应的计算结果Step3-大量次重复step1～2，得到变量后验概率分布。（中间过程省略了大量的正态转换、EM寻优、mcmc过程等）
■网友
正好研究生毕业论文就是做BMA。我的理解：BMA实际上就是将各模型进行揉合从而降低风险的方法。For the sake of intuition，你希望estimate 某个未知变量X，传统的方法是你选择某一模型进行拟合，发现拟合结果非常好，很开心的就选了它来做后续操作得到estimator。但是，另一个人选择了另一个模型进行拟合，发现这个模型拟合度也非常好，然而在这个模型下X estimate的结果却与之前那个模型相差很大。那这个时候应该选择哪个模型呢？只选择其中某一个模型的做法显然不妥，因为你没有考虑到uncertainty。但BMA就把uncertainty考虑进去了。具体BMA的操作原理去看看论文就能懂了，其实不难懂，难的是实际操作中到底该怎么计算各个模型对应的posterior probability。


推荐阅读


上一篇：南方暴雨|南方暴雨 北方炙烤 网友：急需“南水北调”！

下一篇：07年谷歌拼音输入法和搜狗输入法的“抄袭词库”大战，李开复在事发前是否知道呢