实例 首先举个例子，假设我们有一个二手房交易记录的数据集，已知房屋面积、卧室数量和房屋的交易价格，如下表： 假如我们有一个房子要卖，那我们大概卖多少钱合适呢？我们是不是可以依据二手房记录数据集中房屋面积和卧室数量，来大概估算一下我们的方式卖多少钱合适。这个问题就是典型的回归问题，在这里我们讲线性回归...
分类：
其他好文 时间：
2015-08-03 20:46:24
阅读次数：
123
赛题地址：http://tianchi.aliyun.com/competition/information.htm?spm=5176.100067.5678.2.VZW16k&raceId=3
登录即可下载数据
题目一句话：根据13年7月到14年8月的申购赎回数据预测14年9月每一条的申购赎回数据。
算法问题：此题可以使用线性回归和时间序列预测，只要特征好效果都还可以。我们...
分类：
其他好文 时间：
2015-07-29 01:04:51
阅读次数：
234
当我们使用正则化的线性回归方法预测房价时，发现得到的模型应用于新的数据上时有很大误差，这时，我们可以选择一些解决方案，例如：
上图中的这六种解决方案都有相应的条件，如图中蓝色字体所示。【一、回归模型选择】我们引入一类数据集，叫做cross validation set，即交叉验证数据集。将所有数据按6：2：2
分为training set , cross validation set , t...
分类：
其他好文 时间：
2015-07-27 23:05:00
阅读次数：
389
下面主要总结线性回归与逻辑回归下的过拟合问题。【过拟合问题的定义】【过拟合问题的解决方法】
怎样解决过拟合问题呢？两个方法：
1. 减少feature个数（人工定义留多少个feature、算法选取这些feature）
2. 正则化（留下所有的feature，但对于部分feature定义其parameter非常小）
下面我们将对线性回归与逻辑回归的正则化进行详细的讲解。【一、线性回归的正则化...
分类：
其他好文 时间：
2015-07-26 11:09:25
阅读次数：
191
【一、逻辑回归模型】逻辑回归不同于线性回归，它实际上一种分类方法，用于二分类问题（y=0或者1）。逻辑回归模型如下：
即当>=0.5时，预测输出值y=1；否则预测输出值y=0；且有：
【二、决策边界】所谓Decision Boundary就是能够将所有数据点进行很好地分类的h(x)边界。
【例1】
由图可知：
对应的线性回归模型为：
决策边界为粉色直线：
【例2】...
分类：
其他好文 时间：
2015-07-24 18:28:22
阅读次数：
166
朴素贝叶斯算法与上篇中写到到生成学习算法的思想是一致的。它不需要像线性回归等算法一样去拟合各种假设的可能，只需要计算各种假设的概率，然后选择概率最高的那种假设分类类别。其中还添入了一个贝叶斯假定：在给定目标值y时属性值x之间相互独立。这样的分类算法被称为朴素贝叶斯分类器（Naive Bayes classifier） 。
1、朴素贝叶斯算法
在朴素贝叶斯算法的模型里，给定的训练集为,...
分类：
编程语言 时间：
2015-07-24 13:04:49
阅读次数：
215
【多变量线性回归模型】多变量线性回归是指输入为多维特征的情况，例如：
在上图中可看出房子的价格price由四个变量(size、number of bedrooms、number of floors 、age of home)决定，为了能够预测给定条件（四个变量）下的房子的价格（y），我们需要建立相应的线性回归模型。假设有n个变量，则相应的多变量线性回归模型如下：注意上图中的x是指一个训练样本，即每...
分类：
其他好文 时间：
2015-07-23 23:50:38
阅读次数：
337
一、为什么有CART回归树 以前学过全局回归，顾名思义，就是指全部数据符合某种曲线。比如线性回归，多项式拟合（泰勒）等等。可是这些数学规律多强，硬硬地将全部数据逼近一些特殊的曲线。生活中的数据可是千变万化。那么，局部回归是一种合理地选择。在斯坦福大学NG的公开课中，他也提到局部回归的好处。其中，C....
分类：
其他好文 时间：
2015-07-23 13:47:10
阅读次数：
165
前言最近在看斯坦福的《机器学习》的公开课，这个课程是2009年的，有点老了，不过讲的还是很好的，廓清了一些我以前关于机器学习懵懂的地方。我的一位老师曾经说过:什么叫理解？理解就是你能把同一个事情用自己的语言表达出来，并且能让别人听得懂。本着这样的原则，同时也为了证明自己是”理解”的，于是决定打算在学...
分类：
其他好文 时间：
2015-07-22 06:53:16
阅读次数：
199
机器学习中的数学(2)-线性回归，偏差、方差权衡版权声明： 本文由LeftNotEasy所有，发布于http://leftnoteasy.cnblogs.com。如果转载，请注明出处，在未经作者同意下将本文用于商业用途，将追究其法律责任。如果有问题，请联系作者 wheeleast@gmail.com...
分类：
其他好文 时间：
2015-07-21 21:50:19
阅读次数：
116
