SGD, BGD初步描述 (原文来自:http://blog.csdn.net/lilyth_lilyth/article/details/8973972,@熊均达@SJTU 做出解释及说明) 梯度下降(GD)是最小化风险函数、损失函数(注意Risk Function和Cost Function在本... ...
分类:
其他好文 时间:
2016-10-19 07:40:19
阅读次数:
195
作者:成清清 徐唱 肖凯 吕迪迪 根据维基百科[1]的定义,梯度下降(Gradient Descendent, GD) 法是一阶迭代式优化算法(First-Order Iterative Optimization Algorithm)。 我们首先举一个机器学习的问题:某地的房价与房地面积和卧室的数量... ...
分类:
其他好文 时间:
2016-10-18 22:31:04
阅读次数:
442
在求解机器学习算法的模型参数,即无约束优化问题时,梯度下降(Gradient Descent)是最常采用的方法之一,另一种常用的方法是最小二乘法。这里就对梯度下降法做一个完整的总结。 1. 梯度 在微积分里面,对多元函数的参数求?偏导数,把求得的各个参数的偏导数以向量的形式写出来,就是梯度。比如函数 ...
分类:
其他好文 时间:
2016-10-18 01:40:45
阅读次数:
349
继续接着昨天的整理 【倒影】:用的不是很多 -webkit-box-reflect:below 20px -webkit-linear-gradient(rgba(0,0,0,0,),rgba(0,0,0,1)); 方向 和倒影之间的距离 倒影方向above(向上) below(向下) left(向 ...
分类:
Web程序 时间:
2016-10-15 07:39:19
阅读次数:
158
CSS3 Gradient分为linear-gradient(线性渐变)和radial-gradient(径向渐变)。而我们今天主要是针对线性渐变来剖析其具体的用法。为了更好的应用CSS3 Gradient,我们需要先了解一下目前的几种现代浏览器的内核,主流内容主要有Mozilla(Gecko)(熟 ...
分类:
Web程序 时间:
2016-10-12 22:40:00
阅读次数:
161
在css3之前要想做背景色渐变就只能采用添加背景图片的方法,但是随着css3:linear-gradient属性的出现,就可以避免使用添加背景图片的方法,从而优化了性能。但是inear-gradient属性在ie9以下是无效的,但是可以采用ie滤镜的方法。 比如:黑色渐变到白色,代码如下: ie 滤 ...
分类:
Web程序 时间:
2016-10-11 11:52:30
阅读次数:
308
gbdt(又称Gradient Boosted Decision Tree/Grdient Boosted Regression Tree),是一种迭代的决策树算法,该算法由多个决策树组成。它最早见于yahoo,后被广泛应用在搜索排序、点击率预估上。 xgboost是陈天奇大牛新开发的Boostin ...
分类:
其他好文 时间:
2016-10-10 20:42:34
阅读次数:
600
课程地址:https://www.coursera.org/learn/machine-learning/lecture/8SpIM/gradient-descent 一 Model and Cost Function 模型及代价函数 1 Model Representation 模型表示 首先,教 ...
分类:
其他好文 时间:
2016-10-10 13:32:27
阅读次数:
250
AdaBoost D Tree有了新的权重的概念。 现在的优化目标,如何进行优化呢? 不更改算法的部门,而想办法在输入的数据方面做修改。 权重的意义就是被重复取到的数据的次数。这样的话,根据权重的比例进行重复的抽样。最后的结果也和之前一样能够表达权重的意义在里面了。 在一个fully grown t ...
分类:
其他好文 时间:
2016-10-08 19:17:20
阅读次数:
166
梯度下降优化算法综述 参考:http://blog.csdn.net/heyongluoyao8/article/details/52478715 该文翻译自An overview of gradient descent optimization algorithms。 总所周知,梯度下降算法是机器 ...
分类:
编程语言 时间:
2016-10-08 16:52:16
阅读次数:
488