1 Dynamic regression models 动态回归模型
前面的内容中要么只考虑了时间,要么只考虑了其他自变量的影响,这一节将考虑各个变量和时间的综合影响。
1.1 regression models+ ARIMA models
首先我们简单的将回归和Arima组合,做一个简单的动态回归模型。
其组合的方法和实质就是将回归模型中的误差项变为时间序列的ARIMA,也可以理解为下式...
分类:
其他好文 时间:
2016-05-03 18:42:58
阅读次数:
218
本章内容 □sigmod函数和logistic回归分类器 □最优化理论初步□梯度下降最优化算法□数据中的缺失项处理 这会是激动人心的一章,因为我们将首次接触到最优化算法。仔细想想就会发现,其实我们日常生活中遇到过很多最优化问题,比如如何在最短时间内从入点到达氏点?如何投人最少工作量却获得最大的效益? ...
分类:
其他好文 时间:
2016-05-01 17:46:11
阅读次数:
288
本篇博客主要介绍了简单线性回归,多元线性回归和非线性回归,主要是结合Python和Scikit-learn机器学习库进行相应的分析
目录:
1、概念
2、简单线性回归(Simple Liner Regession)
3、多元性回归(Mutiple Regession)
4、非线性回归(Logistic Regession)...
分类:
其他好文 时间:
2016-04-29 18:56:06
阅读次数:
268
============================================================================================
《机器学习实战》系列博客是博主阅读《机器学习实战》这本书的笔记,包含对其中算法的理解和算法的Python代码实现
另外博主这里有机器学习实战这本书的所有算法源代码和算法所用到的源文件,有需要的留言
=...
分类:
编程语言 时间:
2016-04-29 18:23:21
阅读次数:
276
判定边界(Decision Boundary)
上一次我们讨论了一个新的模型——逻辑回归模型(Logistic Regression),在逻辑回归中,我们预测:
当hø大于等于0.5时,预测y=1当hø小于0.5时,预测y=0
根据上面的预测,我们绘制出一条S形函数,如下:
根据函数图像,我们知道,当
z=0时,g(z)=0.5 z>0时,g(z)>0.5 ...
分类:
其他好文 时间:
2016-04-29 17:58:50
阅读次数:
145
先说下线性回归(直接上图)
如上图所示,根据肿瘤尺寸数据进行判断。设hypothesis函数为根据上图可以看出线性h(x)能够将上述数据进行有效分类,当h(x)>0.5,则为肿瘤患者,当h(x)
此时通过调整线性模型的参数后最终得到的线性模型为蓝色的直线,此时就会发现最右侧的红色叉号被预测成了正常,这显然是不合理的,并且后果是严重的(人家有病,你预测正常,影响治疗.....),...
分类:
其他好文 时间:
2016-04-29 15:44:22
阅读次数:
282
我们已经大概学习了用线性回归(Linear Regression)来解决一些预测问题,详见:
1.《机器学习笔记01:线性回归(Linear Regression)和梯度下降(Gradient Decent)》
2.《机器学习笔记02:多元线性回归、梯度下降和Normal equation》
3.《机器学习笔记03:Normal equation及其与梯度下降的比较》
面对一些类似回归...
分类:
其他好文 时间:
2016-04-28 01:56:56
阅读次数:
510
1. 问题 这节我们请出最后的有关成分分析和回归的神器PLSR。PLSR感觉已经把成分分析和回归发挥到极致了,下面主要介绍其思想而非完整的教程。让我们回顾一下最早的Linear Regression的缺点:如果样例数m相比特征数n少(m<n)或者特征间线性相关时,由于(n*n矩阵)的秩小于特征个数( ...
分类:
其他好文 时间:
2016-04-27 20:47:29
阅读次数:
314
本篇博客主要介绍了简单线性回归,多元线性回归和非线性回归,主要是结合Python和Scikit-learn机器学习库进行相应的分析
目录:
1、概念
2、简单线性回归(Simple Liner Regession)
3、多元性回归(Mutiple Regession)
4、非线性回归(Logistic Regession)...
分类:
其他好文 时间:
2016-04-26 21:08:02
阅读次数:
225
2.1 模型表示 之前的房屋交易问题为例,假使我们回归问题的训练集(Training Set)如下表所示: 我们将要用来描述这个回归问题的标记如下: m 代表训练集中实例的数量 x 代表特征/输入变量 y 代表目标变量/输出变量 (x,y) 代表训练集中的实例 (x(i),y(i) ) 代表第 i ...
分类:
其他好文 时间:
2016-04-26 12:15:17
阅读次数:
193