前言 本文是基于Exercise:PCA and Whitening的练习。 理论知识见：UFLDL教程。 实验内容：从10张512*512自然图像中随机选取10000个12*12的图像块（patch），然后对这些patch进行99%的方差保留的PCA计算，最后对这些patch做PCA Whi...
分类：
其他好文 时间：
2015-11-02 16:58:22
阅读次数：
345
前言这节主要是练习下PCA，PCA Whitening以及ZCA Whitening在2D数据上的使用，2D的数据集是45个数据点，每个数据点是2维的。一些matlab函数彩色分散点图函数：scatter(x,y,c,s) x, y为两个矢量，用于定位数据点，s为绘图点的大小，c为绘图所使用的色彩，...
分类：
其他好文 时间：
2015-11-02 13:52:38
阅读次数：
294
数据预处理技术数据清理：空缺值处理、格式标准化、异常数据清除、错误纠正、重复数据的清除数据集成：将多个数据源中的数据结合起来并统一存储，建立数据仓库的过程实际上就是数据集成。数据变换：平滑、聚集、规范化、最小 最大规范化等数据归约：维归（删除不相关的属性（维））、数据压缩（PCA,LDA,SVD、小...
分类：
其他好文 时间：
2015-10-28 21:14:34
阅读次数：
546
数据计算和结果展示一直是数据挖掘领域的难点，一般情况下，数据都拥有超过三维，维数越多，处理上就越吃力。所以，采用降维技术对数据今夕简化一直是数据挖掘工作者感兴趣的方向。对数据进行简化的好处：使得数据集更易于使用，降低很多算法的计算开销，去除噪声，使得结果易懂。主成分分析法（PCA）是一种常用的降维技...
分类：
其他好文 时间：
2015-10-14 23:44:00
阅读次数：
252
PCA： PCA的具有2个功能,一是维数约简（可以加快算法的训练速度，减小内存消耗等），一是数据的可视化。 PCA并不是线性回归，因为线性回归是保证得到的函数是y值方面误差最小，而PCA是保证得到的函数到所降的维度上的误差最小。另外线性回归是通过x值来预测y值，而PCA中是将所有的x样本都同等...
分类：
其他好文 时间：
2015-10-09 21:25:03
阅读次数：
185
本文实现基于SVD奇异矩阵分解的PCA主成分分析，使用该算法来完成对人脸图像的识别，主要讲解SVD实现PCA的原理，如何利用SVD实现图像特征的降维，以及SVD在文本聚类方面的使用，例如弱化同义词、多...
分类：
其他好文 时间：
2015-10-04 01:39:04
阅读次数：
331
input_data = rand(1000,3);%随机生成1000个样本，每个样本有x,y,z三个属性 figure(1);%控制画图的窗口为1 hold off;%使当前轴和图形不再具备被刷新的性质，关闭在此基础上再画图 plot3(input_data(:,1), input_d...
分类：
其他好文 时间：
2015-10-03 23:18:47
阅读次数：
1471
PCA的数学原理PCA（Principal Component Analysis）是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示，可用于提取数据的主要特征分量，常用于高维数据的降维。网上关于PCA的文章有很多，但是大多数只描述了PCA的分析过程，而没有讲述其中的...
分类：
其他好文 时间：
2015-10-02 19:57:54
阅读次数：
259
DLA起源之解 考虑一个样本集合X=[x1,x2...xN]，每个样本属于C个类中的一个。我们可以使用类似于PCA,LDA的线性降维方法将x由m维降至d维(m>d)。但是线性降维方法存在一些问题，例如LDA中的求逆运算，经常可能因为矩阵的奇异性是降维结果恶化。而这里介绍的DLA方法可以避免这个问题。...
分类：
其他好文 时间：
2015-09-21 17:38:04
阅读次数：
379
