机器学习(2)之线性回归上一章介绍了梯度下降算法的线性回归,本章将介绍另外一种线性回归,它是利用矩阵求导的方式来实现梯度下降算法一样的效果。1. 矩阵的求导首先定义表示m×n的矩阵,那么对该矩阵进行求导可以用下式表示,可以看出求导后的矩阵仍然为m×n这里要用到矩阵迹的特性,trace. 对于一个n阶...
分类:
其他好文 时间:
2014-09-09 11:49:28
阅读次数:
182
刚在网上看了一个牛人的贴子,感触挺深的,自己还自称是爱学习的人,但是和他一比,感觉弱爆了。现在把最近一年的工作作一个总结。(牛人,贴子链接,请看原文)2013年8月28号入学接下来,就是开学,体检各种事,然后是选课、上课,这样过了大约半年。这一学年总共选了十几门课程,其中机器学习、自然语言处理、信息...
分类:
其他好文 时间:
2014-09-09 11:26:28
阅读次数:
234
“老虎与甲壳虫一个外表软一个硬,但实际上却相反”;
“无论干什么,最后脚都是要踩到实地的“;
”将军很多变为奴隶的,奴隶的环境逼迫他们去成为将军“;
去的路上,望着公交的窗纱,突然窗纱的一个个小格子不就是像素点吗,每个点你只能看到一种颜色及亮度值电视里午间新闻30分播放梁振英致香港市民的中秋家书,用的是粤语,由于之前主播已介绍大致纲要,所以能听懂一些语句,这让我联想到机器学习中最大似然问题,...
分类:
其他好文 时间:
2014-09-07 22:29:35
阅读次数:
217
Weka算法Classifier-tree-J48源码分析(二)ClassifierTree...
分类:
其他好文 时间:
2014-09-07 16:02:25
阅读次数:
251
在线性回归中,因为对參数个数选择的问题是在问题求解之前已经确定好的,因此參数的个数不能非常好的确定,假设參数个数过少可能拟合度不好,产生欠拟合(underfitting)问题,或者參数过多,使得函数过于复杂产生过拟合问题(overfitting)。因此本节介绍的局部线性回归(LWR)能够降低这种风险...
分类:
其他好文 时间:
2014-09-07 15:56:35
阅读次数:
368
机器学习(1)之梯度下降(gradient descent)题记:最近零碎的时间都在学习Andrew Ng的machine learning,因此就有了这些笔记。梯度下降是线性回归的一种(Linear Regression),首先给出一个关于房屋的经典例子,面积(feet2)房间个数价格(1000$...
分类:
其他好文 时间:
2014-09-06 01:00:52
阅读次数:
260
看了 Andrew Ng 公开课里的第一节课后,感觉机器学习好高大上。。系里最高大上的国家级重点实验室CAD实验室用的3D成像技术就跟Andrew Ng大大放的聚类算法做出的3D场景几乎一样。看完后我觉得,我现在也开始走高端路线了→_→ 第一章:回归算法 1.LMS Algorithm(...
分类:
其他好文 时间:
2014-09-05 23:34:32
阅读次数:
227
机器学习问题分为分类和回归问题 回归问题,就是预测连续型数值,而不像分类问题,是预测离散的类别 至于这类问题为何称为回归regression,应该就是约定俗成,你也解释不通 比如为何logistic regression叫逻辑回归,明明解决的是分类问题,而且和逻辑没有半点关系 谈到回归,最简单的就是...
分类:
其他好文 时间:
2014-09-05 17:45:41
阅读次数:
361
机器学习是AI领域的重要一门学科。前面我描述过,我计划从事的...
分类:
其他好文 时间:
2014-09-05 08:47:01
阅读次数:
208
在机器学习中,随机森林由许多的决策树组成,因为这些决策树的形成采用了随机的方法,因此也叫做随机决策树。随机森林中的树之间是没有关联的。当测试数据进入随机森林时,其实就是让每一颗决策树进行分类,最后取所有决策树中分类结果最多的那类为最终的结果。因此随机森林是一个包含多个决策树的分类器,并且其输出的类别...
分类:
其他好文 时间:
2014-09-04 18:34:39
阅读次数:
275