决策树（decision tree） 决策树：是一种基本的分类和回归方法。它是基于实例特征对实例进行分类的过程，我们可以认为决策树就是很多if-then的规则集合。 优点：1）训练生成的模型可读性强，我们可以很直观的看出生成模型的构成已经工作方式，因为模型就是由数据属性和类别构成一棵树。 ...
分类：
其他好文 时间：
2014-08-12 21:34:44
阅读次数：
257
注：下面有project网站的大部分都有paper和相应的code。Code一般是C/C++或者Matlab代码。最近一次更新：2013-3-17一、特征提取Feature Extraction：·SIFT [1] [Demo program][SIFT Library] [VLFeat]·PCA-...
分类：
其他好文 时间：
2014-08-12 18:23:14
阅读次数：
439
Softmax回归就是推广版本的逻辑回归。
只不过逻辑回归是个2分类问题，而Softmax是多分类问题，仅此而已。
Softmax回归在2分类情况下就蜕化成了逻辑回归。
逻辑回归的代价函数
考虑到权重衰减，修改一下就是Softmax回归的代价函数了
这里的权重衰减项是必须的，因为原先的代价函数不是严格凸函数，有无穷个极小值。现在加了这个权重衰减项，函数变成了严格凸函数。L...
分类：
数据库 时间：
2014-08-12 17:10:34
阅读次数：
502
1、项目进度 1.1测试执行阶段 写清楚当前是在冒烟阶段、功能测试执行阶段，还是回归测试阶段 写清楚当前阶段预计在什么时候结束（在可控的情况下，如果不可控或者不可预测，说明风险在哪里） 写清楚当前测试了哪个模块，还有哪些模块没有测试（一般都是先测试优先级高的模块） 写清楚下个星期的测试计划...
分类：
其他好文 时间：
2014-08-12 16:26:34
阅读次数：
157
今天整理资料时，发现了在学校时做的这个实验，当时整个过程过重偏向依赖分类器方面，而又很难对分类器本身性能进行一定程度的改良，所以最后没有选用这个方案，估计以后也不会接触这类机器学习的东西了，希望它对刚入门的人有点用。
SVM比较适合高维数据的二分类，本来准备对语音特征直接用SVM进行二分类，但是发现样本数据比较多，训练的2天都没有出收敛，最后想用VQ聚类的方法先抽取出具有代...
分类：
其他好文 时间：
2014-08-12 13:35:54
阅读次数：
306
今天整理资料时，发现了在学校时做的这个实验，当时整个过程过重偏向依赖分类器方面，而自己又很难对分类器性能进行一定程度的改良，所以最后没有选用这个方案，估计以后也不会接触这类机器学习的东西了，希望它对刚入门的人有点用。 SVM比较适合高维数据的二分类，本来准备对语音特征直接用SVM进行二分类，但是发....
分类：
其他好文 时间：
2014-08-12 12:53:24
阅读次数：
210
ufldl学习笔记与编程作业：Feature Extraction Using Convolution,Pooling(卷积和池化抽取特征)
ufldl出了新教程，感觉比之前的好，从基础讲起，系统清晰，又有编程实践。
在deep learning高质量群里面听一些前辈说，不必深究其他机器学习的算法，可以直接来学dl。
于是最近就开始搞这个了，教程加上matlab编程，就是完美啊。
新教程的地址是：http://ufldl.stanford.edu/tutorial/...
分类：
其他好文 时间：
2014-08-12 00:41:23
阅读次数：
372
经过了2个月对机器学习的了解后，我发现了，机器学习的方向多种多样。网页排序，语音识别，图像识别，推荐系统等。算法也多种多样。看见其他的书后，我发现除了讲到的k均值聚类，贝叶斯，神经网络，在线学习等等，还有很多其他的算法。比如说：免疫算法，遗传算法，主成分分析，蚁群算法等等。好像很多算法都是需要做很多的研究才能用的很好的。据说深度学习是由神经网络升级来的。神经网络本身就是一本书，内容很多。龙星计划里...
分类：
其他好文 时间：
2014-08-12 00:39:33
阅读次数：
206
偏最小二乘法（PLS）是近年来发展起来的一种新的多元统计分析http://en.wikipedia.org/wiki/Partial_least_squares_regression
分类：
其他好文 时间：
2014-08-11 23:59:53
阅读次数：
437
