对于PLA, pocket, linear regression, logistic regression，这些gradient descend的方法，我们可以选择迭代的次数，学习率，也可以选择对原来的feature进行多项式的转换映射到高维空间。为了防止overfitting，regularize...
分类：
其他好文 时间：
2015-07-15 19:09:37
阅读次数：
152
使用CSS3制作倒影img { -webkit-box-reflect: below 0px -webkit-gradient(linear, left top, left bottom, from(transparent), color-stop(50%, transparent) , to(r....
分类：
Web程序 时间：
2015-07-14 15:09:54
阅读次数：
115
Martin A. Zinkevich 等人（Yahoo。Lab）合作的论文 Parallelized Stochastic Gradient Descent 中给出了一种适合于 MapReduce 的并行随机梯度下降法，并给出了对应的收敛性分析。这里忽略理论部分。依据自己的理解给...
分类：
其他好文 时间：
2015-07-13 13:35:01
阅读次数：
185
原文：http://zhouyichu.com/machine-learning/Gradient-Descent.html前言最近在看斯坦福的《机器学习》的公开课，这个课程是2009年的，有点老了，不过讲的还是很好的，廓清了一些我以前关于机器学习懵懂的地方。我的一位老师曾经说过:什么叫理解？理解就...
分类：
其他好文 时间：
2015-07-12 18:47:12
阅读次数：
135
1. visualizing higher-layer features of a deep network
本文提出了两种可视化方法。
1. 最大化activation
当训练完一个深层神经网络之后， 固定所有参数。 然后对于某一个神经元的activation进行梯度上升优化来寻找能使它的值最大化的input。 不断的用gradient ascent来更新一个初始化为random...
分类：
其他好文 时间：
2015-07-09 22:43:05
阅读次数：
219
语法：filter:progid:DXImageTransform.Microsoft.Gradient(enabled=bEnabled,startColorStr=iWidth,endColorStr=iWidth)属性：enabled:可选项。布尔值(Boolean)。设置或检索滤镜是否激活。...
分类：
其他好文 时间：
2015-07-08 22:12:25
阅读次数：
107
Natural Neural Networks
Google DeepMind又一神作
Projected Natural Gradient Descent algorithm (PRONG) better than SGD as evidenced by the boost in performance offered by batch normalization (BN)
Dee...
分类：
其他好文 时间：
2015-07-08 14:43:35
阅读次数：
136
img{-webkit-box-reflect:below 0 -webkit-linear-gradient(top,rgba(0,0,0,0.1),rgba(0,0,0,1)); }above：指定倒影在对象的上边below：指定倒影在对象的下边left：指定倒影在对象的左边right：指定倒....
分类：
其他好文 时间：
2015-07-08 02:03:41
阅读次数：
129
Python source code:gradient_boosting_regression.pyfrom sklearn import ensemblefrom sklearn.metrics import mean_squared_error# Fit regression modelpara...
分类：
编程语言 时间：
2015-07-05 23:50:23
阅读次数：
166
Gradient Descent续上文。
gradient descent的用途：
可以用于求解一个函数f(x1,x2,......xn)f(x_1,x_2,......x_n)的local 最小值。
关于local最小值：
一个函数可能有多个local最小值，所谓local最小值是当（x1,x2,......xnx_1,x_2,......x_n）的某一个实例，当在的该实例的无限小的附近...
分类：
编程语言 时间：
2015-07-05 15:11:33
阅读次数：
173
