本章节主要讲解Logistic回归的原理及其数学推导,Logistic有3种不同的表达形式,现在我就一一展开这几种不同的形式,以及它在分类中的效果。并比较这三种形式。
下面分别写出这三种形式的损失函数:
下面分别写出这三种损失函数的梯度形式:
其中第一种形式和第三种形式是等价的,推导如下:
Steepest descent
前面章节已经讲过最速...
分类:
系统相关 时间:
2015-02-17 14:10:19
阅读次数:
344
Still debugging sequence to sequence learning code. Not going well. Figure out some bugs. Bug gradient check still failed.Numeric percision may be a p...
分类:
其他好文 时间:
2015-02-15 00:57:31
阅读次数:
285
Today I almost finished the sequence to sequence learning code. But there are still errors in gradient check. There are less error than I excepted:) H...
分类:
其他好文 时间:
2015-02-13 01:30:40
阅读次数:
212
Finish the sequence to sequence learning feed forward and backward function. TODO: SGD, outter loop and gradient check functions.In afternoon I had a ...
分类:
其他好文 时间:
2015-02-12 00:36:04
阅读次数:
201
一、要理解GBDT当然要从GB(Gradient Boosting)和DT(Decision Tree)两个角度来理解了;
二、GB其实是一种理念,他并不是这一个具体的算法,意思是说沿着梯度方向,构造一系列的弱分类器函数,并以一定权重组合起来,形成最终决策的强分类器;注意,这里的梯度下降法是在函数空间中通过梯度下降法寻找使得LOSS最小的一个函数,区别于传统的梯度下降法选择一个方向;那么问题就来...
分类:
其他好文 时间:
2015-02-10 18:48:53
阅读次数:
410
Selector的结构描述: shape的结构描述: android:endColor="#FFFFFF" android:angle="270" /> 下面是上面属性的说明solid:实心,就是填充的意思android:color指定填充的颜色gradient:渐变android...
分类:
移动开发 时间:
2015-02-05 23:20:51
阅读次数:
317
机器学习Machine Learning - Andrew NG
courses学习笔记
linear regression works with multiple variables or with multiple features多变量线性规划
Multiple Features多变量
Gradient Descent for Multiple...
分类:
系统相关 时间:
2015-02-05 18:31:27
阅读次数:
237
Android中常常使用shape来定义控件的一些显示属性它可以作为一般图片使用,今天看了一些shape的使用,对shape有了大体的了解,稍作总结:
先看下面的代码:
复制到剪贴板 XML/HTML代码
shape>
solid android:color="#ff9d77"/>
gradient
...
分类:
移动开发 时间:
2015-02-04 12:59:14
阅读次数:
224
main idea:用adaboost类似的方法,选出g,然后选出步长 Gredient Boosting for regression: h控制方向,eta控制步长,需要对h的大小进行限制 对(x,残差)解regression,得到h 对(g(x),残差)解regression,得到eta
分类:
其他好文 时间:
2015-02-03 00:27:33
阅读次数:
395
复杂渐变生成器地址:http://www.colorzilla.com/gradient-editor/背景渐变图案地址:http://lea.verou.me/css3patterns/eg:两色线性渐变background: #fcfcfc; /* Old browsers */backgrou...
分类:
Web程序 时间:
2015-02-02 17:21:39
阅读次数:
264