产生式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念，它们的区别在于： 对于输入x，类别标签y：产生式模型估计它们的联合概率分布P(x,y)判别式模型估计条件概率分布P(y|x)产生式模型可以根据贝叶斯公式得到判别式模型，但反过来不行 ...
分类：
其他好文 时间：
2016-09-01 12:30:26
阅读次数：
124
生成模型与判别模型 给定样本 $x$ ,需要对 $p(y|x)$ 建模，生成模型与判别模型分别使用了不同的方式 1. 生成模型 直接对 $p(x,y)$ 建模，通过贝叶斯公式得到 $y$ 的后验分布即可： \[p(y|x) = \frac{p(x,y)}{p(x)}\] 生成模型反映了不同类型数据各... ...
分类：
其他好文 时间：
2016-08-21 16:40:12
阅读次数：
190
平凡而又神奇的贝叶斯方法 概率论只不过是把常识用数学公式表达了出来。 —拉普拉斯 目录 0. 前言 1. 历史 1.1 一个例子：自然语言的二义性 1.2 贝叶斯公式 2. 拼写纠正 3. 模型比较与贝叶斯奥卡姆剃刀 3.1 再访拼写纠正 3.2 模型比较理论（Model Comparasion）与 ...
分类：
其他好文 时间：
2016-07-23 19:41:10
阅读次数：
266
从贝叶斯公式出发，得到了线性判别分析的公式，这里从另外一个角度来看线性判别分析，也就是常说的Fisher判别式。其实Fisher判别式就是线性判别分析（LDA），只是在讨论Fisher判别式的时候，更侧重于LDA的数据降维的能力。...
分类：
其他好文 时间：
2016-07-13 17:27:41
阅读次数：
270
七月在线4月机器学习算法班课程笔记——No.8
1. 统计学习基础回顾1.1 先验概率与后验概率 先验概率：根据以往经验和分析得到的概率，如全概率公式，它往往作为”由因求果”问题中的”因”出现。
后验概率：依据得到”结果”信息所计算出的最有可能是那种事件发生，如贝叶斯公式中的，是”执果寻因”问题中的”因”。后验概率可以根据通过贝叶斯公式，用先验概率和似然函数计算出来。
贝叶斯定理：假设...
分类：
编程语言 时间：
2016-06-21 08:04:13
阅读次数：
2226
七月算法--12月机器学习在线班-第十三次课笔记—贝叶斯网络 七月算法（julyedu.com）12月机器学习在线班学习笔记http://www.julyedu.com 1.1 贝叶斯公式带来的思考：给定结果推原因； 1.2朴素贝叶斯的假设 1，一个特征出现的概率，与其他特征(条件)独立(特征独立性... ...
分类：
编程语言 时间：
2016-05-13 14:38:55
阅读次数：
153
贝叶斯公式对BigData，Machine Learning，Deep Learning中的很多算法起着基础性的作用，但何以一个200年前的公式对现在的技术发生了如此巨大的作用？ 先来看贝叶斯公式的推导过程。 P(AB)=P(B|A)P(A) = P(A|B)P(B), So, P(B|A) = P ...
分类：
其他好文 时间：
2016-05-01 20:23:57
阅读次数：
114
本文主要介绍三类参数估计方法-最大似然估计MLE、最大后验概率估计MAP及贝叶斯估计。
1、最大似然估计MLE
首先回顾一下贝叶斯公式
这个公式也称为逆概率公式，可以将后验概率转化为基于似然函数和先验概率的计算表达式，即
最大似然估计就是要用似然函数取到最大值时的参数值作为估计值，似然函数可...
分类：
其他好文 时间：
2016-04-22 19:52:49
阅读次数：
146
贝叶斯公式是怎么来的？ 我们还是使用 wikipedia 上的一个例子： 一所学校里面有 60% 的男生，40% 的女生。男生总是穿长裤，女生则一半穿长裤一半穿裙子。有了这些信息之后我们可以容易地计算“随机选取一个学生，他（她）穿长裤的概率和穿裙子的概率是多大”，这个就是前面说的“正向概率”的计算。
分类：
其他好文 时间：
2016-03-16 21:03:20
阅读次数：
414
贝叶斯学习 贝叶斯公式 贝叶斯学习器事实上是从经典的贝叶斯概率公式的来的，对于经典的贝叶斯公式： P(A|B)=P(B|A)P(A)P(B)P(A|B)={P(B|A)P(A)\over{P(B)}} 式中P(A)表示A的先验概率（即A发生的概率与B无关），P(A|B)表示A的后验概率（即在已知B发
分类：
其他好文 时间：
2016-03-10 14:26:43
阅读次数：
278
