回归是统计学中最有力的工具之一。回归算法用于连续型分布预测，针对的是数值型的样本，使用回归，可以在给定输入的时候预测出一个数值，这是对分类方法的提升，因为这样可以预测连续型数据而不仅仅是离散的类别标签。回归的目的就是建立一个回归方程用来预测目标值，回归的求解就是求这个回归方程的回归系数。预测的方法当然十分简单，回归系数乘以输入值再全部相加就得到了预测值。说到回归，常常指的也就是线性回归，因此本文阐述的就是多元线性回归方程的求解和应用，通过Python实现。...
分类：
编程语言 时间：
2014-12-23 14:02:03
阅读次数：
822
提到数据挖掘，我们第一反应就是之前听到的啤酒和尿不湿的故事，该故事就是典型的数据挖掘中的关联规则。购物篮分析区别于传统的线性回归的主要区别为，关联分析针对离散数据；
常见关联规则：
关联规则：牛奶=>鸡蛋【支持度=2%，置信度=60%】
支持度：分析中的全部事务的2%同时购买了牛奶和鸡蛋，需设定域值，来限定规则的产生；
置信度：购买了牛奶的筒子有60%也购买了鸡蛋，需设定域值，来限定规则的...
分类：
编程语言 时间：
2014-12-23 12:34:32
阅读次数：
339
一、线性回归1、什么是线性回归？（1）线性：直线（2）线性回归：根据已有的数据集拟合出一条直线（3）用途：回归或者分类，如果y是连续的值，则为回归；如果y是离散的几个值，则为分类；本文只针对分类（4）线性公式 ，设置x0=1，则有（5）如果利用线性回归进行回归或者分类，只需要估算出θ的值2、如何估算...
分类：
其他好文 时间：
2014-12-23 00:10:30
阅读次数：
254
Hypothesis function假设我们有一组房子面积和房价之间的关系的数据，并以面积作为横坐标，房价作为纵坐标把它画出来，有了这样的数据以后，假设给你一个房子的面积，要如何预测房子的价格呢？ 一种很直观的方法是使用训练数据拟合出一条直线出来，在线性回归里我们称为Hypothes...
分类：
其他好文 时间：
2014-12-18 18:36:15
阅读次数：
218
第一节中说了，logistic 回归和线性回归的区别是：线性回归是根据样本X各个维度的Xi的线性叠加（线性叠加的权重系数wi就是模型的参数）来得到预测值的Y，然后最小化所有的样本预测值Y与真实值y'的误差来求得模型参数。我们看到这里的模型的值Y是样本X各个维度的Xi的线性叠加，是线性的。 Y=WX ...
分类：
其他好文 时间：
2014-12-17 18:11:42
阅读次数：
8732
继续学习http://www.cnblogs.com/tornadomeet/archive/2013/03/15/2962116.html，上一节课学习速率是固定的，而这里我们的目的是找到一个比较好的学习速率。我们主要是观察 不同的学习速率对应的不同的损失值与迭代次数之间的函数曲线是怎么样的，找到...
分类：
其他好文 时间：
2014-12-15 13:31:37
阅读次数：
209
继续学习http://www.cnblogs.com/tornadomeet/archive/2013/03/15/2961660.html题目是：50个数据样本点，其中x为这50个小朋友到的年龄，年龄为2岁到8岁，年龄可有小数形式呈现。Y为这50个小朋友对应的身高，当然也是小数形式表示的。现在的问...
分类：
其他好文 时间：
2014-12-14 22:26:34
阅读次数：
310
普通线性回归的形式为：（之所以这么写是因为的线性才是线性的所指）线性回归模型有一下以下几个特征：1.2.x,y 通常取值连续3.y的分布为正态分布或接近正态。广义线性模型进行了如下推广：1.，h为严格单调充分光滑已知函数。（h的反函数）称为联系函数。;2.x,y可去连续或离散值，离散值比较常见。3....
分类：
其他好文 时间：
2014-12-11 01:29:30
阅读次数：
238
http://baike.baidu.com/view/139822.htmhttp://baike.baidu.com/link?url=AHp30Rl0sWJZ9EhgknesZ595G0fLCR-KM20aRBLgf6kaqnF7MiixcRQrf7Uu8aKoRqkj8mE2nyZ9Y0we...
分类：
其他好文 时间：
2014-12-09 22:49:32
阅读次数：
206
-----------------------------author：midu---------------------------qq：1327706646------------------------datetime：2014-12-08 02:29（1）前言以前看最小二乘，一直很模糊，后面...
分类：
其他好文 时间：
2014-12-08 07:04:44
阅读次数：
804
