贝叶斯网络定了这样一个独立的结构：一个节点的概率仅依赖于它的父节点。贝叶斯网络更加适用于稀疏模型，即大部分节点之间不存在任何直接的依赖关系。联合概率，即所有节点的概率，将所有条件概率相乘：我们最终的目标是计算准确的边缘概率，比如计算Hangover的概率。在数学上，边缘概率被定义为各种状态下系统所有...
分类：
其他好文 时间：
2015-10-22 21:16:29
阅读次数：
223
之前忘记强调重要的差异：链式法则的条件概率和贝叶斯网络的链式法则之间的差异条件概率链式法则P\left({D,I,G,S,L} \right) = P\left( D \right)P\left( {I\left| D \right.}\right)P\left( {G\left| {D,I} \r...
分类：
其他好文 时间：
2015-10-13 20:54:34
阅读次数：
321
EM是我一直想深入学习的算法之一，第一次听说是在NLP课中的HMM那一节，为了解决HMM的参数估计问题，使用了EM算法。在之后的MT中的词对齐中也用到了。在Mitchell的书中也提到EM可以用于贝叶斯网络中。下面主要介绍EM的整个推导过程。1. Jensen不等式 回顾优化理论中的一些概念。设f....
分类：
编程语言 时间：
2015-09-13 22:48:35
阅读次数：
236
经典贝叶斯网络 贝叶斯分类器的分类原理是通过某对象的先验概率,利用贝叶斯公式计算出其后验概率,即该对象属于某一类的概率,选择具有最大后验概率的类作为该对象所属的类。目前研究较多的贝叶斯分类器主要有四种,分别是:Naive Bayes、TAN、BAN 和 GBN。贝叶斯网络是一个带有概率注释的有向无....
分类：
其他好文 时间：
2015-07-03 12:06:46
阅读次数：
110
前言
一看到贝叶斯网络，马上让人联想到的是5个字，朴素贝叶斯，在所难免，NaiveByes的知名度确实会被贝叶斯网络算法更高一点。其实不管是朴素贝叶斯算法，还是今天我打算讲述的贝叶斯网络算法也罢，归根结底来说都是贝叶斯系列分类算法，他的核心思想就是基于概率学的知识进行分类判断，至于分类得到底准不准，大家尽可以自己用数据集去测试测试。OK，下面进入正题--贝叶斯网络算法。
朴素贝叶斯
一般我在...
分类：
其他好文 时间：
2015-06-29 20:35:18
阅读次数：
154
贝叶斯分类器 贝叶斯分类分类原则是一个对象的通过先验概率。贝叶斯后验概率公式后计算。也就是说，该对象属于一类的概率。选择具有最大后验概率的类作为对象的类属。现在更多的研究贝叶斯分类器，有四个，每间：Naive Bayes、TAN、BAN和GBN。 贝叶斯网络是一个带有概率凝视的有向...
分类：
编程语言 时间：
2015-06-20 09:06:07
阅读次数：
144
贝叶斯分类器 贝叶斯分类器的分类原理是通过某对象的先验概率，利用贝叶斯公式计算出其后验概率，即该对象属于某一类的概率，选择具有最大后验概率的类作为该对象所属的类。眼下研究较多的贝叶斯分类器主要有四种，各自是：Naive Bayes、TAN、BAN和GBN。 贝叶斯网络是一个带有概率...
分类：
编程语言 时间：
2015-06-05 13:55:39
阅读次数：
241
之前在概率图模型对概率图模型做了简要的介绍。此处介绍有向图模型中几个常常提到的概念，之前参考的多为英文资料，本文参考的是《概率图模型-原理与技术的》中译版本。很新的书，纸质很好，翻译没有很差。1. 贝叶斯网络-不同视角 概率图模型，究其目的，在于描述多个（单个就没有意义了）变量概率分布之间的关系。有...
分类：
其他好文 时间：
2015-05-19 20:48:53
阅读次数：
3959
贝叶斯网络、马尔科夫随机场(MRF, Markov RandomField)和因子图都属于概念图，因此它们都归属于机器学习中的概念图模型(PGM,Probability Graphical Model).
一：定义
贝叶斯网络，又称信念网络(Belief Network, BN),
或有向无环图模型，是由一个有向无环图(DAG,Directed acyclic graphical model...
分类：
其他好文 时间：
2015-05-16 10:32:40
阅读次数：
1947
EM是我一直想深入学习的算法之一，第一次听说是在NLP课中的HMM那一节，为了解决HMM的参数估计问题，使用了EM算法。在之后的MT中的词对齐中也用到了。在Mitchell的书中也提到EM可以用于贝叶斯网络中。下面主要介绍EM的整个推导过程。1. Jensen不等式 回顾优化理论中的一些概念。设f....
分类：
其他好文 时间：
2015-04-26 21:10:52
阅读次数：
213
