MIT 线性代数课程中讲过的矩阵分解有很多种，但是据我所知最重要的应该是SVD分解了，假如现在想把行空间的正交基通过A左乘的方法变换到列空间的正交基，既有：
需要说明的一点是，我们可以轻易得到行空间的正交基，但是并不是所有的A都能满足变换过去后还是正交基的条件，所以，这个A需要满足条件，或者说A和U,V需要满足一定的关系。将上式左右两边都乘以V的转置，就可以得到矩阵奇异值分解的公式，SV...
分类：
其他好文 时间：
2014-12-09 10:35:28
阅读次数：
189
NG的课件1，引出常用的优化方法梯度下降法(gradient descent) 对于 ordinary least squares regression， cost function为 求最小值，意味着求导数为0的位置 考虑只有一个样本 这叫做LMS update rule (Least Mean ...
分类：
其他好文 时间：
2014-12-09 08:11:49
阅读次数：
330
转贴：看到的一个来源是http://blog.sina.com.cn/s/blog_631a4cc40101d00t.html，不确定是否是最原始版本。牛人主页（主页有很多论文代码）Serge Belongieat UC San DiegoAntonio Torralbaat MITAlexei F...
分类：
其他好文 时间：
2014-12-08 21:17:11
阅读次数：
431
惰性学习法：简单的存储数据，一直等待，直到给定一个测试元组时才进行泛化，根据对存储的元组的相似性进行分类。kNN（k近邻）分类方法于20世纪50年代提出，由于计算密集型算法，因此到60年代之后随着计算能力增强后才逐步应用。
kNN基于类比学习，将给定的测试元组表示为n维空间中的一个点，n代表属性数目。然后使用某种距离度量方式来寻找与给定测试元组最近的k个训练元组，对这个k个训练元组的类别进行统计...
分类：
其他好文 时间：
2014-12-08 17:47:16
阅读次数：
262
之前写过一篇blog叫做机器学习实战笔记之非均衡分类问题：http://blog.csdn.net/lu597203933/article/details/38666699其中对Precision和Recall及ROC都有所讲解，其中区别在于Precision,Recall, F-score,
MAP主要用于信息检索，而ROC曲线及其度量指标AUC主要用于分类和识别，ROC的详细介绍见上面的b...
分类：
其他好文 时间：
2014-12-08 14:01:53
阅读次数：
448
第一讲中我们学习了一个机器学习系统的完整框架，包含以下3部分：训练集、假设集、学习算法 一个机器学习系统的工作原理是：学习算法根据训练集，从假设集合H中选择一个最好的假设g，使得g与目标函数f尽可能低接近。H称为假设空间，是由一个学习模型的参数决定的假设构成的一个空间。而我们这周就要学习一个特定的....
分类：
其他好文 时间：
2014-12-08 00:38:06
阅读次数：
466
1 我爱自然语言处理 http://www.52nlp.cn/2 统计之都 http://cos.name/机器学习会议及期刊1 http://machinelearning.wustl.edu/mlpapers/venues
分类：
Web程序 时间：
2014-12-07 13:47:54
阅读次数：
139
好久没更新博客了，之前学了一些R语言和机器学习的内容，做了一些笔记，之后也会放到博客上面来给大家共享。一个月前就打算更新Spark Sql的内容了，因为一些别的事情耽误了，今天就简单写点，Spark1.2马上就要出来了，不知道变动会不会很大，据说添加了很多的新功能呢，期待中...首先声明一下这个版本...
分类：
数据库 时间：
2014-12-07 01:20:23
阅读次数：
585
mahout入门指南之mahout单机版推荐算法
鄙人最近在研究mahout，网上找了一些入门资料来看，发现都整理的比较乱。折腾了一番，终于搞清楚了。为了让新手们较快入门，决定总结分享一下，写此入门指南。
mahout是什么？
mahout是一个机器学习库，里面实现了一些算法，比如推荐算法，聚类算法。
实现方式有单机内存版，也有分布式（hadoop和spark）。...
分类：
编程语言 时间：
2014-12-06 15:26:15
阅读次数：
368
kNN算法，即K最近邻(k-NearestNeighbor)分类算法，是最简单的机器学习算法之一，算法思想很简单：从训练样本集中选择k个与测试样本“距离”最近的样本，这k个样本中出现频率最高的类别即作为测试样本的类别。
分类过程如下：
1 首先我们事先定下k值（就是指k近邻方法的k的大小，代表对于一个待分类的数据点，我们要寻找几个它的邻居）。这边为了说明问题，我们取两个k值，分别为3和5；
2 根据事先确定的距离度量公式（如：欧氏距离），得出待分类数据点和所有已知类别的样本点中，距离最近的k个样本。
3 统...
分类：
编程语言 时间：
2014-12-06 08:51:50
阅读次数：
365
