Microsoft 线性回归算法是 Microsoft 决策树算法的一种变体，有助于计算依赖变量和独立变量之间的线性关系，然后使用该关系进行预测。该关系采用的表示形式是最能代表数据序列的线的公式。例如，以下关系图中的线是数据最可能的线性表示形式。关系图中的每个数据点都有一个与该数据点与回归线之间距离...
分类：
编程语言 时间：
2014-11-19 14:01:13
阅读次数：
213
回归问题的条件/前提：1） 收集的数据2） 假设的模型，即一个函数，这个函数里含有未知的参数，通过学习，可以估计出参数。然后利用这个模型去预测/分类新的数据。1. 线性回归假设 特征 和 结果 都满足线性。即不大于一次方。这个是针对 收集的数据而言。收集的数据中，每一个分量，就可以看做一个特征数据。...
分类：
其他好文 时间：
2014-11-13 20:28:37
阅读次数：
547
一般的线性回归使用的cost function为:但由于logistic function：本身非凸函数（convex function）， 如果直接使用线性回归的cost function的话，很难到达全局最优解。相反，很容易陷入局部最优解然后就认为到达收敛条件了。因此，logistic regr...
分类：
其他好文 时间：
2014-11-13 08:16:45
阅读次数：
221
回归1）多元线性回归（1）模型建立多元线性回归讨论的的是变量y与非随机变量x1……xm之间的关系，假设他们具有线性关系，于是有模型：y=b0+b1x1+……+bmxm+e这里的e~N（0，a2），b0，……，bn，a2都是未知数。上式矩阵表达式为：y=xb+e对于一组样本（x00……x0m，y0）……（xn0..
分类：
编程语言 时间：
2014-11-10 01:19:31
阅读次数：
406
梯度下降是回归问题中求cost function最小值的有效方法，对大数据量的训练集而言，其效果要好于非迭代的normal equation方法。 在将其用于多变量回归时，有两个问题要注意，否则会导致收敛速度小，甚至无法收敛。1. 特征均一化（Feature Scaling） 当特征量多时，...
分类：
其他好文 时间：
2014-11-08 16:35:06
阅读次数：
135
Machine Learning:Linear Regression With Multiple Variables
接着上次预测房子售价的例子，引出多变量的线性回归。
接着上次预测房子售价的例子，引出多变量的线性回归。
多变量梯度下降跟单变量一样需同步更新所有的theta值。
进行feature scaling的原因是为了使grad...
分类：
系统相关 时间：
2014-11-07 01:02:19
阅读次数：
413
原文:（原创）大数据时代：基于微软案例数据库数据挖掘知识点总结（Microsoft 线性回归分析算法）前言
此篇为微软系列挖掘算法的最后一篇了，完整该篇之后，微软在商业智能这块提供的一系列挖掘算法我们就算总结完成了，在此系列中涵盖了微软在商业智能（BI）模块系统所能提供的所有挖掘算法，当然此框架完全...
分类：
数据库 时间：
2014-11-06 16:59:16
阅读次数：
336
参考资料：openclassroom线性回归(Linear Regression)为了拟合10岁以下儿童年龄(x1)与身高(y)之间的关系，我们假设一个关于x的函数h(x)：h(x) =Θ0+Θ1*x1 =Θ0*x0+Θ1*x1=ΘT*x(其中x0=1, x=[x0, x1])我们的目的是求出Θ，使...
分类：
其他好文 时间：
2014-11-06 14:22:03
阅读次数：
225
人工智能和人工神经网络，提到这些可能有很多人都觉得很高深，很高级。但其实也有简单的，比如BP神经网络，就目前的人工神经网络发展看，除了深度学习算法的人工神经网络以外，应用最广泛的就是BP神经网络，BP神经网络能够快速发现并学习具备线性回归特征的问题。相信也有很多人想把它用在彩票分析上，处于爱好和玩的原因，我就来做一个实现。
BP神经网络的关键参数一般有3个，输入节点个数，隐藏节点个数，输出节点个...
分类：
其他好文 时间：
2014-10-30 19:13:03
阅读次数：
289
学习Andrew N.g的机器学习课程之后的简单实现.课程地址：https://class.coursera.org/ml-007不大会编辑公式，所以略去具体的推导，有疑惑的同学去看看Andrew 的课程吧，顺带一句，Andrew的课程实在是很赞。如果还有疑问，feel free to contac...
分类：
编程语言 时间：
2014-10-30 13:08:29
阅读次数：
348
