1、 logistic回归与一般线性回归模型的区别：（1） 线性回归的结果变量 与因变量或者反应变量与自变量之间的关系假设是线性的，而logistic回归中 两者之间的关系是非线性的；（2） 前提假设不同，在线性回归中，通常假设，对于自变量x的某个值，因变量Y的观测值服从正态分布，但在logisti...
分类：
其他好文 时间：
2014-07-06 20:27:06
阅读次数：
285
在上一节所介绍的非线性回归分析，首先要求我们对回归方程的函数模型做出推断。尽管在一些特定的情况下我们能够比較easy地做到这一点,可是在很多实际问题上经常会令我们不知所措。依据高等数学知识我们知道，不论什么曲线能够近似地用多项式表示，所以在这样的情况下我们能够用多项式进行逼近，即多项式回归分析。一、...
分类：
其他好文 时间：
2014-07-03 21:05:18
阅读次数：
230
线性回归(Linear Regression)问题属于监督学习（Supervised Learning）范畴，又称分类（Classification）或归纳学习(Inductive Learning);这类分析中训练数据集中给出的数据类标是确定的；机器学习的目标是，对于给定的一个训练数据集，通过不断的分析和学习产生一个联系属性集合和类标集合的分类函数(Classification Function)或预测函数(Prediction Function),这个函数称为分类模型(Classification Mo...
分类：
其他好文 时间：
2014-06-24 22:58:23
阅读次数：
585
线性回归（linear regression）实践篇
之前一段时间在coursera看了Andrew ng的机器学习的课程，感觉还不错，算是入门了。这次打算以该课程的作业为主线，对机器学习基本知识做一下总结。小弟才学疏浅，如有错误，敬请指导。
问题原描述：
you will implement linear regression with one
variable to pred...
分类：
其他好文 时间：
2014-06-22 22:53:02
阅读次数：
361
这段时间组里在有计划地学习书籍PRML （Pattern Recognition and
Machine Learning），前两天自己做了一个里面第三章linear regression的分享，这里把当时做的这个ppt分享给大家。
对于线性回归这一章，首先列一下我认为比较重要的几个问题（ppt ....
分类：
其他好文 时间：
2014-06-09 13:19:17
阅读次数：
418
1.线性回归介绍X指训练数据的feature，beta指待估计得参数。详细见http://zh.wikipedia.org/wiki/%E4%B8%80%E8%88%AC%E7%BA%BF%E6%80%A7%E6%A8%A1%E5%9E%8B使用最小二乘法拟合的普通线性回归是数据建模的基本方法。令最...
分类：
其他好文 时间：
2014-06-07 01:02:30
阅读次数：
458
在线性回归中，由于对参数个数选择的问题是在问题求解之前已经确定好的，因此参数的个数不能很好的确定，如果参数个数过少可能拟合度不好，产生欠拟合(underfitting)问题，或者参数过多，使得函数过于复杂产生过拟合问题(overfitting)。因此本节介绍的局部线性回归(LWR)可以减少这样的风险。
欠拟合与过拟合
首先看下面的图
对于图中的一系列样本点，当我们采用y...
分类：
其他好文 时间：
2014-06-02 23:50:41
阅读次数：
430
logistic regression可以解决分类问题，即输出的结果只有0和1两种，比如，对于邮件的判断只有是或者否。这种分类问题使用传统的线性回归并不能很好的解决。
一个小例子
例如，当我们根据肿瘤的大小判断一个肿瘤是不是良性的时候，输出结果只有是或者否，用1和0表示，给定的样本点，并且我们使用传统的线性回归问题解决拟合的函数图像如下：
图像中我们可以根据拟合曲线，当输出值...
分类：
其他好文 时间：
2014-06-01 12:53:04
阅读次数：
167
Logistic回归为概率型非线性回归模型，是研究二分类观察结果与一些影响因素之间关系的一种多变
量分析方法。通常的问题是，研究某些因素条件下某个结果是否发生，比如医学中根据病人的一些症状来判断它是否患
有某种病。
在讲解Logistic回归理论之前，我们先从LR分类器说起。LR分类器，即Logistic Regression Classifier。
在分类情形下，经过学习后的LR分...
分类：
其他好文 时间：
2014-05-31 17:59:42
阅读次数：
279
Linear Regression线性回归 Notation 给定一个样本集T 样本总数为m
每个样本记做 其中为输入变量，也称为特征变量；为我们要预测的输出变量，也称为目标变量 表示第个样本。 问题描述 给定一个样本集，学习一个函数
使得是对相应y的一个好的预测。 因为某些历史原因，h被称为假设（...
分类：
其他好文 时间：
2014-05-20 02:15:22
阅读次数：
520
