Metropolis Hasting Algorithm:MH算法也是一种基于模拟的MCMC技术,一个非常重要的应用是从给定的概率分布中抽样。主要原理是构造了一个精妙的Markov链,使得该链的稳态 是你给定的概率密度。它的优点,不用多说,自然是能够对付数学形式复杂的概率密度。有人说,单维的MH算法...
分类:
编程语言 时间:
2015-01-01 10:07:46
阅读次数:
299
一:简介以及学习的途径
(1)吉布斯采样(Gibbs Sampling)及相关算法 (学习向Gibbs sampling, EM, MCMC算法 等的好地方)
1) 推荐大家读Bishop的Pattern Recognition and Machine Learning,讲的很清楚,偏理论一些;
2) 读artificial Intelligence,2、3版...
分类:
其他好文 时间:
2014-12-27 21:48:39
阅读次数:
304
Metropolis Hasting Algorithm:MH算法也是一种基于模拟的MCMC技术,一个非常重要的应用是从给定的概率分布中抽样。主要原理是构造了一个精妙的Markov链,使得该链的稳态 是你给定的概率密度。它的优点,不用多说,自然是能够对付数学形式复杂的概率密度。有人说,单维的MH算法...
分类:
编程语言 时间:
2014-11-08 14:58:14
阅读次数:
201
Metropolis Hasting Algorithm:MH算法也是一种基于模拟的MCMC技术,一个非常重要的应用是从给定的概率分布中抽样。主要原理是构造了一个精妙的Markov链,使得该链的稳态 是你给定的概率密度。它的优点,不用多说,自然是能够对付数学形式复杂的概率密度。有人说,单维的MH算法...
分类:
编程语言 时间:
2014-10-23 14:23:22
阅读次数:
210
Metropolis Hasting Algorithm:MH算法也是一种基于模拟的MCMC技术,一个非常重要的应用是从给定的概率分布中抽样。主要原理是构造了一个精妙的Markov链,使得该链的稳态 是你给定的概率密度。它的优点,不用多说,自然是能够对付数学形式复杂的概率密度。有人说,单维的MH算法...
分类:
编程语言 时间:
2014-10-16 20:08:53
阅读次数:
273
Metropolis Hasting Algorithm:MH算法也是一种基于模拟的MCMC技术,一个非常重要的应用是从给定的概率分布中抽样。主要原理是构造了一个精妙的Markov链,使得该链的稳态 是你给定的概率密度。它的优点,不用多说,自然是能够对付数学形式复杂的概率密度。有人说,单维的MH算法...
分类:
编程语言 时间:
2014-10-12 18:25:18
阅读次数:
196
本文用讲一下指定分布的随机抽样方法:MC(Monte Carlo), MC(Markov Chain), MCMC(Markov Chain Monte Carlo)的基本原理,并用R语言实现了几个样例:1. Markov Chain (马尔科夫链)2. Random Walk(随机游走)3. MC...
分类:
其他好文 时间:
2014-06-26 17:32:16
阅读次数:
189
在这一节,我们用MCMC框架来考察几个例子。 一、和共轭凸函数的关系 设$M$是函数$p:
\mathbb{R}^n \mapsto [-\infty, \infty]$的上境图,易知此时有\begin{align*} w^* = p(
\boldsymbol{0} ) \end{align...
分类:
其他好文 时间:
2014-05-16 00:10:31
阅读次数:
502
本文用讲一下指定分布的随机抽样方法:MC(Monte Carlo), MC(Markov Chain), MCMC(Markov Chain Monte Carlo)的基本原理,并用R语言实现了几个例子:
1. Markov Chain (马尔科夫链)
2. Random Walk(随机游走)
3. MCMC具体方法:
3.1 M-H法
3.2 Gibbs采样
PS:本篇blog为ese机器学习短期班参考资料(20140516课程)。...
分类:
其他好文 时间:
2014-05-15 23:58:14
阅读次数:
536