在分类问题中我们假设:
他们都是广义线性模型中的一个例子,在理解广义线性模型之前需要先理解指数分布族。
指数分布族(The Exponential Family)
如果一个分布可以用如下公式表达,那么这个分布就属于指数分布族:
公式中y是随机变量;h(x)称为基础度量值(base measure);
...
分类:
其他好文 时间:
2015-08-17 08:50:25
阅读次数:
158
牛顿方法(Newton's method)
逻辑回归中利用Sigmoid函数g(z)和梯度上升来最大化?(θ)。现在我们讨论另一个最大化?(θ)的算法----牛顿方法。
牛顿方法是使用迭代的方法寻找使f(θ)=0的θ值,在这里θ是一个真实的值,不是一个参数,只不过θ的真正取值不确定。牛顿方法数学表达式为:
牛顿方法简单的理解方式...
分类:
其他好文 时间:
2015-08-17 08:50:05
阅读次数:
665
线性回归中提到最小二乘损失函数及其相关知识。对于这一部分知识不清楚的同学可以参考上一篇文章《线性回归、梯度下降》。本篇文章主要讲解使用最小二乘法法构建损失函数和最小化损失函数的方法。
最小二乘法构建损失函数
最小二乘法也一种优化方法,用于求得目标函数的最优值。简单的说就是:让我们的预测值与真实值总的拟合误差(即总残差)达到最小。
在线性回归中使用最小二乘...
分类:
其他好文 时间:
2015-08-17 08:49:42
阅读次数:
690
本文主要讲解局部加权(线性)回归。在讲解局部加权线性回归之前,先讲解两个概念:欠拟合、过拟合,由此引出局部加权线性回归算法。
欠拟合、过拟合
如下图中三个拟合模型。第一个是一个线性模型,对训练数据拟合不够好,损失函数取值较大。如图中第二个模型,如果我们在线性模型上加一个新特征项,拟合结果就会好一些。图中第三个是一个包含5阶多项式的模型,对训练数据几乎完美拟合。
...
分类:
其他好文 时间:
2015-08-17 08:48:14
阅读次数:
183
转载请注明出处:http://www.cnblogs.com/BYRans/ 前面的文章已经介绍了一个回归和一个分类的例子。在逻辑回归模型中我们假设: 在分类问题中我们假设: 他们都是广义线性模型中的一个例子,在理解广义线性模型之前需要先理解指数分布族。指数分布族(The Exponen...
分类:
其他好文 时间:
2015-08-17 06:22:23
阅读次数:
244
1. 监督学习的一种方法学,广义线性模型(GLM)的方法学【转载时请注明来源】:http://www.cnblogs.com/aria313——根据Andrew Ng 2008年课程的第1~4节,以及相关的讲义notes 1,进行总结网易公开课地址:http://study.163.com/plan...
分类:
其他好文 时间:
2015-08-16 22:42:20
阅读次数:
295
课程主页,亲测能上,有好些材料
http://cs229.stanford.edu/
Andrew讲的比较早的机器学习应用,1958年有人用来训练一个会下国象的电脑,这个有机会可以试一下,训练一个会下中国象棋的。
介绍了有监督的学习(supervised)和无监督的学习型算法(unsupervised)
有监督是有标准答案集来反馈的训练,无监督的就是没有标准答案的通过算法从...
分类:
其他好文 时间:
2015-08-15 21:37:58
阅读次数:
212
写在前面在项目中,有用到国际化,跟着就了解了下使用angularjs实现的国际化,这里做一下记录。系列文章[Angularjs]ng-select和ng-options[Angularjs]ng-show和ng-hide[Angularjs]视图和路由(一)[Angularjs]视图和路由(二)[A...
分类:
Web程序 时间:
2015-08-15 19:58:59
阅读次数:
137
准备工作:确保无线网卡支持混杂模式并运行正常。(自带网卡多不支持混杂)ifconfig命令若无法查看到无线网卡,使用ifconfig -a查看所有适配器,找到无线网卡对应分配的名称(如wlan0),ifconfig wlan0 up启用。1.airmon-ng check检测占用网卡的进程,将其杀死...
分类:
其他好文 时间:
2015-08-15 00:10:57
阅读次数:
248
1、需求描述 ????在ionic项目用调用手机的打电话功能。开始还想找cordova和ng-cordova的插件那,现在H5实现起来特别方便。 2、准备 ????在cordova中所有的URL Schemes 都是服从于白名单的,所以要现在项目...
分类:
其他好文 时间:
2015-08-14 17:23:57
阅读次数:
230