引言在模式识别中，经常碰到协方差矩阵这个概念，以前一直没搞懂，现在又碰到这个破玩意了，决定把他搞懂，下面就是做的笔记，与大家分享一下均值：标准差：方差：均值描述的是样本集合的样本的平均值,即平均水平.标准差给我们描述的则是样本集合的各个样本点到均值的平均距离,..
分类：
其他好文 时间：
2014-09-28 11:11:41
阅读次数：
281
最近在学习R语言，其中涉及涉及到关联分析时碰到的一些函数，其中有三个彼此关联的函数：var：计算某个变量的方差cov：计算两个变量的协方差cor：计算两个变量的相关性这些概念的理论学校里肯定都学过，不过现在确实是一点也想不起来了，而且更重要的是当时也不知道为什么要有..
分类：
其他好文 时间：
2014-09-14 11:32:47
阅读次数：
391
晚上设计了一个最简单的卡尔曼滤波算法。一维数据，过程噪声协方差和测量噪声协方差都为常数（如果是动态的，就是自适应卡尔曼了）。滤掉高斯白噪声。
分类：
其他好文 时间：
2014-08-31 21:15:11
阅读次数：
218
协方差的定义对于一般的分布，直接代入E(X)之类的就可以计算出来了，但真给你一个具体数值的分布，要计算协方差矩阵，根据这个公式来计算，还真不容易反应过来。网上值得参考的资料也不多，这里用一个例子说明协方差矩阵是怎么计算出来的吧。记住，X、Y是一个列向量，它表示了每种情况下每个样本可能出现的数。比如给...
分类：
其他好文 时间：
2014-08-31 13:10:41
阅读次数：
253
方差：方差是变量与其平均值的平方和的算术平均值，例如： 有一组数据{4,5,6,7}, 平均值为：(4+5+6+7)/4=22/4=5.5 其方差为：[(4-5.5)2+(5-5.5)2+(6-5.5)2+(7-5.5)2]/4标准差：方差的开2次方 例如上面那组数据的标准差...
分类：
其他好文 时间：
2014-08-31 13:07:11
阅读次数：
197
一、统计学的基本概念统计学里最基本的概念就是样本的均值、方差、标准差。首先，我们给定一个含有n个样本的集合，下面给出这些概念的公式描述：均值：标准差：方差：均值描述的是样本集合的中间点，它告诉我们的信息是有限的，而标准差给我们描述的是样本集合的各个样本点到均值的距离之平均。以这两个集合为例，[0, ...
分类：
其他好文 时间：
2014-08-31 13:05:41
阅读次数：
167
QDF假设样本符合高斯分布，通过估计均值与协方差矩阵，训练分类器。但是由于特征维数较高，时空复杂度较高。（协方差矩阵的维数为 特征维数*特征维数）。而且协方差矩阵往往存在不满秩无法求逆的情况（样本数《特征维数）。MQDF主要有以下改进：1、在协方差矩阵的对角线上加一个小的常量，保证矩阵的满秩（非奇异...
分类：
其他好文 时间：
2014-08-31 13:05:31
阅读次数：
241
向量之间的相似度
度量向量之间的相似度方法很多了，你可以用距离（各种距离）的倒数，向量夹角，Pearson相关系数等。
皮尔森相关系数计算公式如下：
分子是协方差，分子是两个变量标准差的乘积。显然要求X和Y的标准差都不能为0。
因为,所以皮尔森相关系数计算公式还可以写成：
当两个变量的线性关系增强时，相关系数趋于1或-1。
用户评分预测
...
分类：
其他好文 时间：
2014-08-21 19:28:24
阅读次数：
796
卡尔曼滤波建立在隐马尔科夫模型上，是一种递归估计。也就是说，只需要知道上一个状态的估计值，以及当前状态的观测值，就能计算当前状态的最优估计值。
而不需要更早的历史信息。
卡尔曼滤波器的2个状态
1.最优估计
2.误差协方差矩阵
这两个变量迭代计算，初始值多少，其实没有影响。反正最后都能收敛到最优估计。
预测过程
F是状态转移矩阵，B是控制矩阵（也可以不需要）。Q是过程噪声...
分类：
其他好文 时间：
2014-08-20 18:02:32
阅读次数：
392
上一节介绍了主成分分析应用于2维数据。现在使用高维的图像数据来试试效果。
原始图像如图1所示。
图1
每个图片都是12*12的小patch，原始数据是一个144*10000的矩阵x。
在使用了PCA旋转之后，可以检查一下此时的协方差矩阵是否已经成功变成对角阵了，如图2所示。
avg=mean(x,1);
x=x-repmat(avg,size(x,1),1);
xRot = ze...
分类：
其他好文 时间：
2014-08-11 21:28:52
阅读次数：
429
