Logistic regression cost function：...
分类：
其他好文 时间：
2016-05-06 16:12:29
阅读次数：
181
线性回归与正则化线性回归总述追根溯源，回归(Regression)这一概念最早由英国生物统计学家高尔顿和他的学生皮尔逊在研究父母亲和子女的身高遗传特性时提出。他们的研究揭示了关于身高的一个有趣的遗传特性：若父母个子高，其子代身高高于平均值的概率很大，但一般不会比父母更高。即身高到一定程度后会往平均身高方向发生“回归”。这种效应被称为“趋中回归(Regression Toward the Mean)”...
分类：
其他好文 时间：
2016-05-06 14:58:14
阅读次数：
1014
到现在，我们已经学过三种线性方法：linear classification、Linear Regression、logistic Regression。这三种方法的核心都是,不同点在于：最小化的error不同。linear classification的error是0/1 error；Linear... ...
分类：
其他好文 时间：
2016-05-06 10:39:02
阅读次数：
143
1 Dynamic regression models 动态回归模型
前面的内容中要么只考虑了时间，要么只考虑了其他自变量的影响，这一节将考虑各个变量和时间的综合影响。
1.1 regression models+ ARIMA models
首先我们简单的将回归和Arima组合，做一个简单的动态回归模型。
其组合的方法和实质就是将回归模型中的误差项变为时间序列的ARIMA，也可以理解为下式...
分类：
其他好文 时间：
2016-05-03 18:42:58
阅读次数：
218
Linux中包括两种链接：硬链接(hard link)和软链接(soft link)，软链接又称为符号链接（symbolic link）创建命令：ln -s destfile/directory softlink #建立软连接 ln destfile hardlink #建立硬连接inode在Lin ...
分类：
系统相关 时间：
2016-04-29 22:03:10
阅读次数：
369
判定边界(Decision Boundary)
上一次我们讨论了一个新的模型——逻辑回归模型(Logistic Regression)，在逻辑回归中，我们预测：
当hø大于等于0.5时，预测y=1当hø小于0.5时，预测y=0
根据上面的预测，我们绘制出一条S形函数，如下：
根据函数图像，我们知道，当
z=0时，g(z)=0.5 z>0时，g(z)>0.5 ...
分类：
其他好文 时间：
2016-04-29 17:58:50
阅读次数：
145
先说下线性回归(直接上图)
如上图所示，根据肿瘤尺寸数据进行判断。设hypothesis函数为根据上图可以看出线性h(x)能够将上述数据进行有效分类，当h(x)>0.5,则为肿瘤患者，当h(x)
此时通过调整线性模型的参数后最终得到的线性模型为蓝色的直线，此时就会发现最右侧的红色叉号被预测成了正常，这显然是不合理的，并且后果是严重的（人家有病，你预测正常，影响治疗.....），...
分类：
其他好文 时间：
2016-04-29 15:44:22
阅读次数：
282
我们已经大概学习了用线性回归（Linear Regression）来解决一些预测问题，详见：
1.《机器学习笔记01：线性回归(Linear Regression)和梯度下降(Gradient Decent)》
2.《机器学习笔记02：多元线性回归、梯度下降和Normal equation》
3.《机器学习笔记03：Normal equation及其与梯度下降的比较》
面对一些类似回归...
分类：
其他好文 时间：
2016-04-28 01:56:56
阅读次数：
510
1. 问题 这节我们请出最后的有关成分分析和回归的神器PLSR。PLSR感觉已经把成分分析和回归发挥到极致了，下面主要介绍其思想而非完整的教程。让我们回顾一下最早的Linear Regression的缺点：如果样例数m相比特征数n少（m<n）或者特征间线性相关时，由于（n*n矩阵）的秩小于特征个数（ ...
分类：
其他好文 时间：
2016-04-27 20:47:29
阅读次数：
314
1.Linux链接概念 Linux链接分两种，一种被称为硬链接（Hard Link），另一种被称为符号链接（Symbolic Link）。默认情况下，ln命令产生硬链接。 【硬连接】硬连接指通过索引节点来进行连接。在Linux的文件系统中，保存在磁盘分区中的文件不管是什么类型都给它分配一个编号，称为 ...
分类：
系统相关 时间：
2016-04-27 20:37:07
阅读次数：
143
