PCA： PCA的具有2个功能,一是维数约简（可以加快算法的训练速度，减小内存消耗等），一是数据的可视化。 PCA并不是线性回归，因为线性回归是保证得到的函数是y值方面误差最小，而PCA是保证得到的函数到所降的维度上的误差最小。另外线性回归是通过x值来预测y值，而PCA中是将所有的x样本都同等...
分类：
其他好文 时间：
2015-10-09 21:25:03
阅读次数：
185
多元线性回归是最简单的机器学习模型，通过给定的训练数据集，拟合出一个线性模型，进而对新数据做出预测。 对应的模型如下： n: 特征数量。 一般选取残差平方和最小化作为损失函数，对应为： M:训练样本数量。 通过最小化代价损失函数，来求得 值，一般优化的方法有两种，第一是梯度下降算法（Gradient...
分类：
编程语言 时间：
2015-10-07 22:52:15
阅读次数：
1759
1. 如果有一个新的面积，假设在销售价钱的记录中没有的，而我们又想知道房屋的售卖价格，我们怎么办呢？图中绿色的点就是我们想要预测的点。 假设我们知道了红色的这条直线，那么给出房屋的面积，马上就可以给出房屋的售价。因此，我们需要找到这样的一条红色直线。 2.模型建立 刚才我们认为房屋的售价只与面积相关...
分类：
其他好文 时间：
2015-10-01 22:59:16
阅读次数：
448
本文分别介绍了线性回归、局部加权回归和岭回归，并使用python进行了简单实现。
分类：
其他好文 时间：
2015-09-26 22:35:07
阅读次数：
322
Machine Learning笔记（三） 多变量线性回归 注：本文内容资源来自 Andrew Ng 在 Coursera上的 Machine Learning 课程，在此向 Andrew Ng 致敬。 一、多特征（Multiple Features） 笔记（二）中所讨论的房价问题，...
分类：
系统相关 时间：
2015-09-26 14:45:59
阅读次数：
568
Machine Learning笔记（二） 单变量线性回归 注：本文内容资源来自 Andrew Ng 在 Coursera上的 Machine Learning 课程，在此向 Andrew Ng 致敬。 一、模型表示（Model Representation） 对于笔记（一）中的房价问...
分类：
系统相关 时间：
2015-09-25 14:44:18
阅读次数：
399
提到数据挖掘，我们的第一个反应是之前的啤酒和尿布的故事听说过，这个故事是一个典型的数据挖掘关联规则。篮分析的传统线性回归之间的主要差别的差别，对于离散数据的相关性分析；常见的关联规则：关联规则：牛奶=>卵子【支撑=2%，置信度=60%】支持度：分析中的所有事务的2%同一时候购买了牛奶和鸡蛋，需设定域...
分类：
编程语言 时间：
2015-09-21 21:11:10
阅读次数：
254
课程链接：http://ufldl.stanford.edu/tutorial/supervised/LogisticRegression/ 这一节主要讲的是梯度的概念，在实验部分，比较之前的线性回归的梯度与通过定义来计算的梯度，统计二者之间的误差。 参考：http://blog.cs...
分类：
其他好文 时间：
2015-09-12 09:33:28
阅读次数：
210
线性回归简介 线性回归是指利用线性回归方程中的最小平方函数对一个或多个自变量和因变量之间的关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。 案例简介 本案例中的数据是...
分类：
其他好文 时间：
2015-09-11 23:36:37
阅读次数：
494
主要内容： 回归 1.线性回归 2.Logistic回归 最优问题： 1.梯度下降 2.牛顿法 3.拟牛顿法 了解参数学习算法和非参数学习算法的区别 1. 2.线性回归
分类：
其他好文 时间：
2015-09-10 20:49:37
阅读次数：
183
