最近看一些文档，看见了互信息的使用，第一次接触互信息，感觉和专业有些相关，就把它记录下来，下面是一片不错的文章。互信息(Mutual
Information)是度量两个事件集合之间的相关性(mutual
dependence)。平均互信息量定义:互信息量I(xi;yj)在联合概率空间P(XY)中的统...
分类：
其他好文 时间：
2014-05-24 07:03:17
阅读次数：
269
1.session.save_handler = files *1.session_start()
1.session_start()是session机制的开始，它有一定概率开启垃圾回收,因为session是存放在文件中，PHP自身的垃圾回收是无效的，SESSION的回收是要删文件的，这个概率是根据...
分类：
Web程序 时间：
2014-05-23 12:35:49
阅读次数：
444
前言 系列文章：[传送门]
马上快要期末考试了，为了学点什么。就准备这系列的博客，记录复习的成果。 正文-计数 概率
概率论研究随机事件。它源于赌徒的研究。即使是今天，概率论也常用于赌博。随机事件的结果是否只凭运气呢？高明的赌徒发现了赌博中的规律。尽管我无法预知事件的具体结果，但我可以...
分类：
其他好文 时间：
2014-05-20 02:08:48
阅读次数：
372
转自
http://mindhacks.cn/2008/09/21/the-magical-bayesian-method/数学之美番外篇：平凡而又神奇的贝叶斯方法概率论只不过是把常识用数学公式表达了出来。——拉普拉斯记得读本科的时候，最喜欢到城里的计算机书店里面去闲逛，一逛就是好几个小时；有一次，...
分类：
其他好文 时间：
2014-05-19 11:22:55
阅读次数：
431
1.搜狐技术中心笔试遇到的题目描述：假设滑动一次需要1秒，新出现是4的概率很小可以忽略，加到2048的需要的时间最少是多少？分析：全部由2相加，得到4需要1次相加，得到8需要3次相加……得到2048需要1024-1次相加（1024-1）/60约为17分钟实际上，在进行加法前可能需要等待
新元素2的出...
分类：
其他好文 时间：
2014-05-18 20:07:59
阅读次数：
415
MLE
:最大似然估计，求得的这套参数估计能够通过指定模型以最大概率在线样本观测数据必须来自随机样本，自变量与因变量之间是线性关系logistic
回归没有关于自变量分布的假设条件，自变量可以连续，也可以离散，不需要假设他们之间服从多元正太分布，当然如果服从，效果更好logistic 回归对多元共线...
分类：
其他好文 时间：
2014-05-18 18:55:03
阅读次数：
297
题目描述：
给定一个n*m的迷宫，如
S..
..#
E.E
其中，S代表开始位置，#代表不可行走的墙，E代表出口。
主人公从开始位置出发，每次等概率的随机选择下一个可以行走的位置，直到到达某一个出口为止。
现在他想知道，在这一概率事件中，它从开始位置走到某一个出口的期望步数是多少。
输入：
输入包含多组测试用例，每组测试用例由两个整数n，m(1
接下去...
分类：
其他好文 时间：
2014-05-18 10:34:57
阅读次数：
260
我们依然使用“学生网络”作为例子，如图1。
图1
首先给出因果推断（Causal Reasoning）的直觉解释。
可以算出来
即学生获得好的推荐信的概率大约是0.5.
但如果我们知道了学生的智商比较低，那么拿到好推荐信的概率就下降了：
进一步，如果又同时知道了考试的难度很低，那么他拿到好的推荐信得概率又上升了，甚至还能超过最初的概率：
上述这个...
分类：
其他好文 时间：
2014-05-18 05:31:10
阅读次数：
324
混合高斯模型（Mixtures of Gaussians）和EM算法 主要内容： 1、
概率论预备知识 2、 单高斯模型 3、 混合高斯模型 4、 EM算法 5、 K-means聚类算法 一、概率论预备知识 1、 数学期望/均值、方差/标准差
设离散型随机变量X的分布律为 则称为X的数学期望或均值 ...
分类：
其他好文 时间：
2014-05-17 21:50:45
阅读次数：
597
概率分布（Distributions）
如图1所示，这是最简单的联合分布案例，姑且称之为学生模型。
图1
其中包含3个变量，分别是：I（学生智力，有0和1两个状态）、D（试卷难度，有0和1两个状态）、G（成绩等级，有1、2、3三个状态）。
表中就是概率的联合分布了，表中随便去掉所有包含某个值的行，就能对分布表进行缩减。
例如可以去掉所有G不为1的行，这样就只剩下了1、4、...
分类：
其他好文 时间：
2014-05-16 01:25:00
阅读次数：
331
