1.极大似然估计 http://blog.csdn.net/bingduanlbd/article/details/24384771 2.GMM概念： http://blog.csdn.net/abcjennifer/article/details/8198352 EM算法： http://www. ...
分类：
其他好文 时间：
2017-03-24 23:01:11
阅读次数：
218
机器学习算法可以说是不少的，如果死记硬背的话，只能当时记得推导过程和步骤，过一段时间就又想不起来了，只能依稀记得一些影子。所以，应该找到算法的一些通用的方法来理解算法的思路以及推导过程。 我认为，最大似然估计和损失函数，就是机器学习算法的通用框架，是掌握机器学习算法的钥匙。 以下，用实际算法来证实这 ...
分类：
编程语言 时间：
2017-03-21 12:58:02
阅读次数：
130
最大似然估计学习总结 MadTurtle 转至here 1. 作用 在已知试验结果（即是样本）的情况下，用来估计满足这些样本分布的参数，把可能性最大的那个参数作为真实的参数估计。 2. 离散型 设为离散型随机变量，为多维参数向量，如果随机变量相互独立且概率计算式为P{，则可得概率函数为P{}=，在固 ...
分类：
其他好文 时间：
2017-02-27 18:56:59
阅读次数：
267
深度信念网络 (Deep Belief Network, DBN) 由 Geoffrey Hinton 在 2006 年提出。它是一种生成模型，通过训练其神经元间的权重，我们可以让整个神经网络按照最大概率来生成训练数据。我们不仅可以使用 DBN 识别特征、分类数据，还可以用它来生成数据。下面的图片展 ...
分类：
其他好文 时间：
2017-02-27 18:47:02
阅读次数：
839
概率模型的范式是这样的： 1.根据抽样建立似然函数 2.对某个参数求偏导。（实际就是最大化似然函数） 3.代入实验数据求得参数。 注意到， 1.建立目标函数要根据抽样的频数，譬如根据硬币抽样结果，抽到A硬币还是B硬币，A硬币抛了几次正面，B硬币抛了几次正面，参数是A，B的抛正面率，建立似然函数。 2 ...
分类：
其他好文 时间：
2017-02-04 18:31:50
阅读次数：
154
oop的编程 我们来看一段代码的优化，来逐步的体会一下； 接下来我们做到了“看似分离的一个状态滴呀”，注意，我这里强调的是看似； 然后，我们通过委托将将具体的实现进行分离； 从上面的代码中，我们看到，将具体的实现进行的分离，但是，你会发现如果要进行扩展，我们不仅要在ScheduleActivity中 ...
分类：
其他好文 时间：
2017-02-02 13:52:28
阅读次数：
213
本文的知识点:使用excel求解GARCH模型的系数，以GARCH模型为例，主要采用的是极大似然估计法MLE。 同时给出了R语言的输出结果作为对照验证。 参考了：http://investexcel.net 参考了：http://investexcel.net 原始文档 PPT： excel： nu ...
分类：
其他好文 时间：
2017-01-23 18:34:53
阅读次数：
3148
假设有一堆数据点,它是由两个线性模型产生的。公式如下： 模型参数为a,b,n：a为线性权值或斜率，b为常数偏置量，n为误差或者噪声。 一方面，假如我们被告知这两个模型的参数，则我们可以计算出损失。 对于第i个数据点，第k个模型会预测它的结果 则，与真实结果的差或者损失记为： 目标是最小化这个误差。 ...
分类：
编程语言 时间：
2017-01-21 21:18:01
阅读次数：
334
EM算法有很多的应用: 最广泛的就是GMM混合高斯模型、聚类、HMM等等. The EM Algorithm 高斯混合模型（Mixtures of Gaussians）和EM算法 EM算法 求最大似然函数估计值的一般步骤： （1）写出似然函数； （2）对似然函数取对数，并整理； （3）求导数，令导数 ...
分类：
编程语言 时间：
2017-01-08 13:09:56
阅读次数：
437
说的通俗一点啊，最大似然估计，就是利用已知的样本结果，反推最有可能（最大概率）导致这样结果的参数值。例如：一个麻袋里有白球与黑球，但是我不知道它们之间的比例，那我就有放回的抽取10次，结果我发现我抽到了8次黑球2次白球，我要求最有可能的黑白球之间的比例时，就采取最大似然估计法： 我假设我抽到黑球的概 ...
分类：
其他好文 时间：
2017-01-07 01:16:58
阅读次数：
167
