卷 TOSHIBA EXT 的文件夹 PATH 列表卷序列号为 AE86-8E8DF:.│ python就业班-淘宝-目录.txt│ ├─01 网络编程│ ├─01-基本概念│ │ 01-网络通信概述.flv│ │ 02-IP地址.flv│ │ 03-Linux、windows查看网卡信息.flv│ ...
分类：
编程语言 时间：
2018-12-23 18:36:08
阅读次数：
314
1. 前言 概率模型有时既含有观测变量(observable variable)，又含有隐变量或潜在变量（latent variable），如果仅有观测变量，那么给定数据就能用极大似然估计或贝叶斯估计来估计model参数；但是当模型含有隐变量时，需要一种含有隐变量的概率模型参数估计的极大似然方法估计 ...
分类：
编程语言 时间：
2018-12-15 17:14:12
阅读次数：
244
1. 凸函数 通常在实际中，最小化的函数有几个极值，所以最优化算法得出的极值不确实是否为全局的极值，对于一些特殊的函数，凸函数与凹函数，任何局部极值也是全局极致，因此如果目标函数是凸的或凹的，那么优化算法就能保证是全局的。 定义1 ：集合$R_c\subset E^n$是凸集，如果对每对点$\tex ...
分类：
编程语言 时间：
2018-12-15 14:56:33
阅读次数：
199
由k个高斯模型加权组成，α是各高斯分布的权重，Θ是参数。对GMM模型的参数估计，就要用EM算法。更一般的讲，EM算法适用于带有隐变量的概率模型的估计，即不同的高斯分布所对应的类别变量。 为何不能使用极大似然估计，如果直接使用极大似然估计，没有考虑数据中的隐变量，很明显是不合适的。 那我们将隐变量考虑 ...
分类：
编程语言 时间：
2018-12-10 11:45:11
阅读次数：
234
本文是LDA主题模型的第三篇，读这一篇之前建议先读文本主题模型之LDA(一) LDA基础，同时由于使用了EM算法，如果你对EM算法不熟悉，建议先熟悉EM算法的主要思想。LDA的变分推断EM算法求解，应用于Spark MLlib和Scikit-learn的LDA算法实现，因此值得好好理解。 1. 变分 ...
分类：
编程语言 时间：
2018-12-04 13:15:02
阅读次数：
186
EM算法：让期望最大化的算法最大似然估计：已知：样本服从分布的模型 观测到的样本求解：模型的参数 极大似然估计是用来估计模型参数的统计学方法 就是什么参数能使得样本符合这么一个模型最大似然函数：什么样的参数使得出现当前这批样本概率最大 利用结果推出参数的最大值 问题提升：有两个类别，这两个类别都服从 ...
分类：
编程语言 时间：
2018-11-26 20:58:40
阅读次数：
23591
老师上课时说：EM算法学习过程就是在懂与不懂间徘徊……emmmm……这可真是真理啊 下面总结一下我理解的EM算法， 参考资料：https://blog.csdn.net/zouxy09/article/details/8537620 https://wenku.baidu.com/view/3396 ...
分类：
编程语言 时间：
2018-11-12 13:14:43
阅读次数：
164
摘要： 主题模型是对文字隐含主题进行建模的方法。它克服了传统信息检索中文档相似度计算方法的缺点，并且能够在海量互联网数据中自动寻找出文字间的语义主题。主题模型在自然语言和基于文本的搜索上都起到非常大的作用。 引言： 两篇文档是否相关往往不只决定于字面上的词语重复，还取决于文字背后的语义关联。对语义关 ...
分类：
其他好文 时间：
2018-11-10 17:54:24
阅读次数：
330
主成分分析法 EM算法求解因子分析 对于EM算法而言，E-步是非常简单的，我们只需要计算Qi(z(i)) =p(z(i)|x(i); µ, Λ, Ψ)。然而在这里的条件分布为，z(i)|x(i); µ, Λ, Ψ ～ N (µz(i)|x(i) , Σz(i)|x(i))，这里满足： 由此，我们得到 ...
分类：
其他好文 时间：
2018-11-04 19:21:30
阅读次数：
265
前言 EM算法大家应该都耳熟能详了，不过很多关于算法的介绍都有很多公式。当然严格的证明肯定少不了公式，不过推公式也是得建立在了解概念的基础上是吧。所以本文就试图以比较直观的方式谈下对EM算法的理解，尽量不引入推导和证明，希望可以有助理解算法的思路。 介绍 EM方法是专门为优化似然函数设计的一种优化算 ...
分类：
编程语言 时间：
2018-11-02 01:57:17
阅读次数：
228
