以前对PCA算法有过一段时间的研究,但没整理成文章,最近项目又打算用到PCA算法,故趁热打铁整理下PCA算法的知识。本文观点旨在抛砖引玉,不是权威,更不能尽信,只是本人的一点体会。主成分分析(PCA)是多元统计分析中用来分析数据的一种方法,它是用一种较少数量的特征对样本进行描述以达到降低特征空间维数...
分类:
编程语言 时间:
2014-11-24 20:52:11
阅读次数:
435
1. 引言与PCA类似,Independent Components Analysis(ICA)同样是要找到一组新基去表示数据。但是目标大不相同。为了阐述动机,举一个例子,考虑“鸡尾酒会问题”。在酒会上,有 n 个演讲者同时讲话,房间里面的每一个麦克风都会记录所有演讲者声音混合起来的音频,但是由于每...
分类:
其他好文 时间:
2014-11-23 14:21:54
阅读次数:
316
在因子分析(Factor analysis)中,介绍了一种降维概率模型,用EM算法(EM算法原理详解)估计参数。在这里讨论另外一种降维方法:主元分析法(PCA),这种算法更加直接,只需要进行特征向量的计算,不需要用到EM算法。 假设数据集表示 m 个不同类型汽车的属性,比如最大速度,转弯半径等...
分类:
其他好文 时间:
2014-11-22 16:03:37
阅读次数:
249
最近一个朋友问这方面的一些问题,其实之前也就很粗略的看了下fisher,真正帮别人解答问题的时候才知道原来自己也有很多东西不懂。下面小结下自己对fisher判别的理解: 其实fisher和PCA差不多,熟悉PCA的人都知道,PCA其实就是在寻找一个子空间。这个空间怎么来的呢,先求协方差矩阵,然后求这...
分类:
其他好文 时间:
2014-11-18 23:49:10
阅读次数:
688
The paper:Hui Zou, Trevor Hastie, and Robert Tibshirani,Sparse Principal Component Analysis,Journal of computational and Graphical Statistics, 15(2): ...
分类:
其他好文 时间:
2014-11-06 00:42:42
阅读次数:
267
本文出处:http://blog.csdn.net/xizhibei=============================PCA,也就是PrincipalComponents Analysis,主成份分析,是个非常优秀的算法,依照书上的说法:寻找最小均方意义下,最能代表原始数据的投影方法然后自己...
分类:
编程语言 时间:
2014-11-05 12:10:03
阅读次数:
189
在前面的讨论中,用到的激励函数都是sigmoid函数:以为最终的输出层所有输出的范围是[0,1],而我们在自编码学习的动机就是使得输出等于输入,于是所有输入必须调整到[0,1]范围内,但是问题来了,有些数据集输入范围容易调整,比如Minist,但是PCA白化处理的输入并不满足[0,1],所以需要找到...
分类:
其他好文 时间:
2014-10-26 13:07:31
阅读次数:
240
VLAN的作用一、实验目的通过此实验了解VLAN的作用:将同一物理网段的用户隔离开了,阻止其互相通信。三、实验描述1.拓扑连接如上图所示,PCA接SWA的E0/4/0,PCB接SWA的E0/4/12.PCA与PCB的IP地址配置在同一网段四、实验步骤1.在交换机上创建两个VLAN2.分别将相应接口加入不同VLA..
分类:
其他好文 时间:
2014-10-23 12:49:17
阅读次数:
192
同VLAN夸交换机通信一、实验目的通过本实验,理解实际中如何通过VLAN来组建网络;同一VLAN的用户连接不同交换机是如何实现通讯的。二、实验拓扑三、实验描述1.实验时,可采用两台PC机完成:PCA/PCB用一台PC机完成,PCC/PCD用一台PC完成2.交换机连接PC机的接口均为access接口3...
分类:
其他好文 时间:
2014-10-23 12:45:35
阅读次数:
243
第一步:下载pca_exercise.zip,里面包含有图像数据144*10000,每一行代表一幅12*12的图像块,首先随见展示200幅:第二步:0均值处理,确保数据均值为0或者接近0第三步:执行PCA,将原始数据映射到不同的特征向量方向上去第四步:验证上面PCA计算出来结果是否正确,若果正确的话...
分类:
其他好文 时间:
2014-10-20 19:13:27
阅读次数:
207