这部分讨论决策理论与 PGM 的关系，一个主要的思路就是将决策与 PGM 的 inference
完美的融合在一起。MEU为了引入决策理论中的 maximum expected utility
原则，我们先引入一些概念：lottery（彩票）是一个结果与概率的映射关系，用户对不同的 lottery ...
分类：
其他好文 时间：
2014-06-08 23:29:23
阅读次数：
433
之前忘记强调了一个重要区别：条件概率链式法则和贝叶斯网络链式法则的区别
条件概率链式法则
贝叶斯网络链式法则，如图1
图1
乍一看很容易觉得贝叶斯网络链式法则不就是大家以前学的链式法则么，其实不然，后面详述。
上一讲谈到了概率分布的因式分解
可以看到条件概率的独立性可以直接从概率分布表达式看出来。
我们已经用概率图模型把...
分类：
其他好文 时间：
2014-05-20 15:22:39
阅读次数：
250
我们依然使用“学生网络”作为例子，如图1。
图1
首先给出因果推断（Causal Reasoning）的直觉解释。
可以算出来
即学生获得好的推荐信的概率大约是0.5.
但如果我们知道了学生的智商比较低，那么拿到好推荐信的概率就下降了：
进一步，如果又同时知道了考试的难度很低，那么他拿到好的推荐信得概率又上升了，甚至还能超过最初的概率：
上述这个...
分类：
其他好文 时间：
2014-05-18 05:31:10
阅读次数：
324
概率分布（Distributions）
如图1所示，这是最简单的联合分布案例，姑且称之为学生模型。
图1
其中包含3个变量，分别是：I（学生智力，有0和1两个状态）、D（试卷难度，有0和1两个状态）、G（成绩等级，有1、2、3三个状态）。
表中就是概率的联合分布了，表中随便去掉所有包含某个值的行，就能对分布表进行缩减。
例如可以去掉所有G不为1的行，这样就只剩下了1、4、...
分类：
其他好文 时间：
2014-05-16 01:25:00
阅读次数：
331
本文根据Daphne Koller的课程整理。
PDM(ProbabilisticGraphiccal Models)
称为概率图模型。下面分别说明3个词对应的意义。
概率
-给出了不确定性的明确量度。
-给出了根据不确定性进行推断的有力工具。
-利用数据结构，建立了进行学习的方法，解决十分大规模的问题。
图
这里主要用到2种概率图，用于表示依赖关系。如图1所示...
分类：
其他好文 时间：
2014-05-15 13:00:48
阅读次数：
295
本文的目的是记录一些在学习贝叶斯网络（Bayesian
Networks）过程中遇到的基本问题。主要包括有向无环图（DAG），I-Maps，分解（Factorization），有向分割（d-Separation），最小I-Maps（Minimal
I-Maps）等。主要参考Nir Friedman的...
分类：
Web程序 时间：
2014-04-29 10:32:45
阅读次数：
449
本文的主题是“贝叶斯网络”（Bayesian Network）
贝叶斯网络是一个典型的图模型，它对感兴趣变量（variables of
interest）及变量之间的关系（relationships）进行建模。当将贝叶斯模型与统计技术一起使用时，这种图模型分析数据具有如下几个优势：(1)
贝...
分类：
其他好文 时间：
2014-04-29 10:28:46
阅读次数：
521
介绍朴素贝叶斯分类器的文章已经很多了。本文的目的是通过基本概念和微小实例的复述，巩固对于朴素贝叶斯分类器的理解。一 朴素贝叶斯分类器基础回顾
朴素贝叶斯分类器基于贝叶斯定义，特别适用于输入数据维数较高的情况。虽然朴素贝叶斯分类器很简单，但是它确经常比一些复杂的方法表现还好。 ...
分类：
其他好文 时间：
2014-04-29 10:26:47
阅读次数：
457
通过上一篇文章的介绍，我们已经基本了解了：Factor是组成PGM模型的基本要素；Factor之间的运算和推理是构建高维复杂PGM模型的基础。那么接下来，我们将重点理解，Factor之间的推理（Reasoning
Patterns）。Factor之间的推理分为以下几类：1. Causal Reaso...
分类：
其他好文 时间：
2014-04-29 10:14:46
阅读次数：
482
废话：和上一次的文章确实隔了太久，希望趁暑期打酱油的时间，将之前学习的东西深入理解一下，同时尝试用Python写相关的机器学习代码。一 PGM模型的分类
通过上一篇文章的介绍，相信大家对PGM的定义和大致应用场景有了粗略的了解。那么接下来我们来深入了解下PGM。首先要介绍的是Probabilist....
分类：
其他好文 时间：
2014-04-29 09:48:47
阅读次数：
457
