之前在学习logistic回归的时候遇到几个问题,一直困扰着我,随着学习的深入,我终于想通了这些问题,而且我发现这些看似很难的算法,其实不难,是可以战胜的,所以不要浅尝辄止,要百折不挠,现在把几个问题和答案小结如下:
Q1:woe本来是ln((Bi/BT)/(Gi/GT)),如果定义成ln((Gi/GT)/(Bi/BT))对于最后训练出来的模型(参数)会有什么影响?
A1:由于ln(A/B) ...
分类:
其他好文 时间:
2016-05-06 12:25:06
阅读次数:
209
到现在,我们已经学过三种线性方法:linear classification、Linear Regression、logistic Regression。这三种方法的核心都是,不同点在于:最小化的error不同。linear classification的error是0/1 error;Linear... ...
分类:
其他好文 时间:
2016-05-06 10:39:02
阅读次数:
143
本章内容 □sigmod函数和logistic回归分类器 □最优化理论初步□梯度下降最优化算法□数据中的缺失项处理 这会是激动人心的一章,因为我们将首次接触到最优化算法。仔细想想就会发现,其实我们日常生活中遇到过很多最优化问题,比如如何在最短时间内从入点到达氏点?如何投人最少工作量却获得最大的效益? ...
分类:
其他好文 时间:
2016-05-01 17:46:11
阅读次数:
288
本篇博客主要介绍了简单线性回归,多元线性回归和非线性回归,主要是结合Python和Scikit-learn机器学习库进行相应的分析
目录:
1、概念
2、简单线性回归(Simple Liner Regession)
3、多元性回归(Mutiple Regession)
4、非线性回归(Logistic Regession)...
分类:
其他好文 时间:
2016-04-29 18:56:06
阅读次数:
268
============================================================================================
《机器学习实战》系列博客是博主阅读《机器学习实战》这本书的笔记,包含对其中算法的理解和算法的Python代码实现
另外博主这里有机器学习实战这本书的所有算法源代码和算法所用到的源文件,有需要的留言
=...
分类:
编程语言 时间:
2016-04-29 18:23:21
阅读次数:
276
判定边界(Decision Boundary)
上一次我们讨论了一个新的模型——逻辑回归模型(Logistic Regression),在逻辑回归中,我们预测:
当hø大于等于0.5时,预测y=1当hø小于0.5时,预测y=0
根据上面的预测,我们绘制出一条S形函数,如下:
根据函数图像,我们知道,当
z=0时,g(z)=0.5 z>0时,g(z)>0.5 ...
分类:
其他好文 时间:
2016-04-29 17:58:50
阅读次数:
145
先说下线性回归(直接上图)
如上图所示,根据肿瘤尺寸数据进行判断。设hypothesis函数为根据上图可以看出线性h(x)能够将上述数据进行有效分类,当h(x)>0.5,则为肿瘤患者,当h(x)
此时通过调整线性模型的参数后最终得到的线性模型为蓝色的直线,此时就会发现最右侧的红色叉号被预测成了正常,这显然是不合理的,并且后果是严重的(人家有病,你预测正常,影响治疗.....),...
分类:
其他好文 时间:
2016-04-29 15:44:22
阅读次数:
282
我们已经大概学习了用线性回归(Linear Regression)来解决一些预测问题,详见:
1.《机器学习笔记01:线性回归(Linear Regression)和梯度下降(Gradient Decent)》
2.《机器学习笔记02:多元线性回归、梯度下降和Normal equation》
3.《机器学习笔记03:Normal equation及其与梯度下降的比较》
面对一些类似回归...
分类:
其他好文 时间:
2016-04-28 01:56:56
阅读次数:
510
本篇博客主要介绍了简单线性回归,多元线性回归和非线性回归,主要是结合Python和Scikit-learn机器学习库进行相应的分析
目录:
1、概念
2、简单线性回归(Simple Liner Regession)
3、多元性回归(Mutiple Regession)
4、非线性回归(Logistic Regession)...
分类:
其他好文 时间:
2016-04-26 21:08:02
阅读次数:
225
判定边界(Decision Boundary)
上一次我们讨论了一个新的模型——逻辑回归模型(Logistic Regression),在逻辑回归中,我们预测:
当hø大于等于0.5时,预测y=1当hø小于0.5时,预测y=0
根据上面的预测,我们绘制出一条S形函数,如下:
根据函数图像,我们知道,当
z=0时,g(z)=0.5 z>0时,g(z)>0.5 ...
分类:
其他好文 时间:
2016-04-25 21:15:33
阅读次数:
601