这节课终于不是那么迷糊了，如果100分满分的话，听懂程度有70分了，初学者就是这么容易满足。 :| 老师说这是这20次课里最简单的一次。。。oh。。。no。 不废话了，接着记笔记吧。 CART：classsification and regression tree 三种决策树：ID3，C4.5，CA ...
分类：
其他好文 时间：
2016-10-11 13:51:38
阅读次数：
125
gbdt（又称Gradient Boosted Decision Tree/Grdient Boosted Regression Tree），是一种迭代的决策树算法，该算法由多个决策树组成。它最早见于yahoo，后被广泛应用在搜索排序、点击率预估上。 xgboost是陈天奇大牛新开发的Boostin ...
分类：
其他好文 时间：
2016-10-10 20:42:34
阅读次数：
600
参考自： http://blog.sina.com.cn/s/blog_74cf26810100ypzf.html http://blog.sina.com.cn/s/blog_64ecfc2f0101ranp.html Logistic regression （逻辑回归）是当前业界比较常用的机器学 ...
分类：
其他好文 时间：
2016-10-08 14:06:30
阅读次数：
136
本实验分三步： 1. 建立数据集 2. 建立网络并训练 3. 可视化 训练结果： ...
分类：
其他好文 时间：
2016-10-05 09:00:23
阅读次数：
141
回顾一下soft margin SVM的知识： 然而从另一个角度来看，分为真的有犯错和没有犯错： 在没有犯错的时候，ξn=0就好了。于是ξn就可以写成一个求max的过程。根据这个思路，我们有了SVM的新形式： 这样一来，ξn就不再是一个独立的变量，它变成了一个由b和w决定的变量，这样的话，式子又被简 ...
分类：
其他好文 时间：
2016-09-30 02:22:10
阅读次数：
163
如果我们想要知道的并不是绝对的是或者非，我们只想知道在是非发生的概率（只想知道概率，不想知道结果）是多少的时候： 虽然我们想要知道左边的完美数据，但是在实际生活中，我们只有右边的数据，也就是一些确定的结果，不可能有概率值这个事情让我们知道。而右边的数据可以看成是有噪声的不完美的数据。 怎么解决这样的 ...
分类：
其他好文 时间：
2016-09-28 10:13:39
阅读次数：
192
线性回归。 从本节课开始，我会适当的结合一些《机器学习实战》中的相关知识点对各个模型做一个更加全面的归纳和总结。 继续试着用加权（打分）的方式对每一个输入x进行计算，得出的线性回归的模型为h(x)=WTX。衡量的目标是找一个向量W使得squared error最小。由于Ein≈Eout，所以我们还是 ...
分类：
其他好文 时间：
2016-09-27 20:24:06
阅读次数：
159
本文申明：本系列笔记全部为原创内容，如有转载请申明原地址出处。谢谢 序言：what is logistic regression? Logistics 一词表示adj.逻辑的;[军]后勤学的n.[逻]数理逻辑;符号逻辑;[军]后勤学， “回归”是由英国著名生物学家兼统计学家高尔顿在研究人类遗传问题时 ...
分类：
其他好文 时间：
2016-09-25 22:07:14
阅读次数：
178
局部加权回归(Locally Weighted Regression, LWR) 局部加权回归使一种非参数方法(Non-parametric)。在每次预测新样本时会重新训练临近的数据得到新参数值。意思是每次预测数据需要依赖训练训练集，所以每次估计的参数值是不确定的。 局部加权回归优点： 需要预测的数... ...
分类：
其他好文 时间：
2016-09-24 17:30:25
阅读次数：
148
三、How Can Machines Learn? 第三节首先介绍了linear regression,线性可分的线性规划是有analytic solution的，林老师给我们推了一下，关键就是矩阵化的处理，简化了很多的工作 上面三幅图是整个推导的过程，需要注意的是，最后的X不一定是可逆的，因为我们 ...
分类：
其他好文 时间：
2016-09-22 20:00:30
阅读次数：
263
