降维技术使得数据变得更易使用,并且它们往往能够去除数据中的噪声,使得机器学习任务往往更加精确。降维往往作为预处理步骤,在数据应用到其它算法之前清洗数据。有很多技术可以用于数据降维,在这些技术中,独立成分分析(Independent Component Analysis, ICA)、因子分析(Fact...
分类:
其他好文 时间:
2015-03-31 19:52:57
阅读次数:
444
【转载】独立成分分析(Independent Component Analysis)ICA
分类:
其他好文 时间:
2015-01-16 12:34:21
阅读次数:
290
1. 引言与PCA类似,Independent Components Analysis(ICA)同样是要找到一组新基去表示数据。但是目标大不相同。为了阐述动机,举一个例子,考虑“鸡尾酒会问题”。在酒会上,有 n 个演讲者同时讲话,房间里面的每一个麦克风都会记录所有演讲者声音混合起来的音频,但是由于每...
分类:
其他好文 时间:
2014-11-23 14:21:54
阅读次数:
316
1. 独立成分分析(ICA)的起源:独立成分分析(Independent Component Analysis),最早应用于盲源信号分离(Blind Source Separation,BBS)。起源于“鸡尾酒会问题”,描述如下:在嘈杂的鸡尾酒会上,许多人在同时交谈,可能还有背景音乐,但人耳却能准确...
分类:
其他好文 时间:
2014-08-20 12:01:42
阅读次数:
594
1,单值分解:线性代数的重要部分,已经被广泛用于模式识别中的降维和信息检索应用中。
2,独立成分分析
3,非负矩阵分解
4,非线性降维算法:① kernel PCA②基于图的方法(拉普拉斯算子,Local LinearEmbedding (LLE),Isometric Mapping (ISOMAP))
5,离散傅里叶变换
6,离散cos和sin变换
7,THEHADAMARD TRA...
分类:
其他好文 时间:
2014-07-22 14:31:58
阅读次数:
252
斯坦福ML公开课笔记15
我们在上一篇笔记中讲到了PCA(主成分分析)。PCA是一种直接的降维方法,通过求解特征值与特征向量,并选取特征值较大的一些特征向量来达到降维的效果。
本文继续PCA的话题,包括PCA的一个应用——LSI(Latent Semantic Indexing, 隐含语义索引)和PCA的一个实现——SVD(Singular Value Decomposition,奇异值分解),在SVD和LSI结束之后,关于PCA的内容就告一段落。视频的后半段开始讲无监督学习的一种——ICA(Indepen...
分类:
其他好文 时间:
2014-07-22 14:16:14
阅读次数:
314