继续考虑Liner Regression的问题，把它写成如下的矩阵形式，然后即可得到θ的Normal Equation. Normal Equation： θ=(XTX)-1XTy 当X可逆时，(XTX)-1XTy = X-1，(XTX)-1XTy其实就是X的伪逆（Pseudo inverse）。这...
分类：
其他好文 时间：
2015-11-08 20:39:36
阅读次数：
139
线性回归回归就是对已知公式的未知参数进行估计。比如已知公式是y=a?x+b，未知参数是a和b，利用多真实的(x,y)训练数据对a和b的取值去自动估计。估计的方法是在给定训练样本点和已知的公式后，对于一个或多个未知参数，机器会自动枚举参数的所有可能取值，直到找到那个最符合样本点分布的参数（或参数组合）...
分类：
其他好文 时间：
2015-11-03 22:48:47
阅读次数：
389
机器学习六--K-means聚类算法想想常见的分类算法有决策树、Logistic回归、SVM、贝叶斯等。分类作为一种监督学习方法，要求必须事先明确知道各个类别的信息，并且断言所有待分类项都有一个类别与之对应。但是很多时候上述条件得不到满足，尤其是在处理海量数据的时候，如果通过预处理使得数据满足分类算...
分类：
编程语言 时间：
2015-10-30 07:03:23
阅读次数：
281
前言： 本节来练习下logistic regression相关内容，参考的资料为网页：http://openclassroom.stanford.edu/MainFolder/DocumentPage.php?course=DeepLearning&doc=exercises/ex4/ex4.html。这里给出的训练...
分类：
其他好文 时间：
2015-10-29 18:38:57
阅读次数：
304
原文地址：http://blog.csdn.net/abcjennifer/article/details/7716281本栏目（Machine learning）包括单参数的线性回归、多参数的线性回归、Octave Tutorial、Logistic Regression、Regularizati...
分类：
其他好文 时间：
2015-10-24 21:58:24
阅读次数：
793
机器学习和数据挖掘推荐书单有了这些书，再也不愁下了班没妹纸该咋办了。慢慢来，认真学，揭开机器学习和数据挖掘这一神秘的面纱吧！《机器学习实战》：本书第一部分主要介绍机器学习基础，以及如何利用算法进行分类，并逐步介绍了多种经典的监督学习算法，如k近邻算法、朴素贝叶斯算法、Logistic回归算法、支持向...
分类：
其他好文 时间：
2015-10-24 18:59:08
阅读次数：
248
今天来讨论多元函数求极值问题，在Logistic回归用牛顿迭代法求参数会用到，所以很有必要把它研究清楚。回想一下，一元函数求极值问题我们是怎样做的？比如对于凹函数，先求一阶导数，得，由于极值处导数一定为零，但是导数等于零的点不一定就有极值，比如。所以还需要进一步判断，对函数继续求二阶导得到，因为在驻...
分类：
其他好文 时间：
2015-10-19 15:26:22
阅读次数：
196
线性回归
用线性回归找到最佳拟合直线回归的目的是预测数值型数据，根据输入写出一个目标值的计算公式，这个公式就是回归方程（regression equation），变量前的系数（比如一元一次方程）称为回归系数（regression weights）。求这些回归系数的过程就是回归。假设输入数据存放在矩阵X X中，回归系数存放在向量w w中，那么对于数据X 1 X_1的预测结果可以用Y 1 =X T...
分类：
其他好文 时间：
2015-10-18 10:04:10
阅读次数：
836
原文：http://www.cnblogs.com/jerrylead/archive/2011/03/05/1971867.html#3281650对线性回归，logistic回归和一般回归的认识 【转载时请注明来源】：http://www.cnblogs.com/jerrylead JerryL...
分类：
其他好文 时间：
2015-10-15 14:21:21
阅读次数：
178
背景：使用Logistic回归来预测患有疝气病的马的存活问题，这里的数据包括368个样本和28个特征，疝气病是描述马胃肠痛的术语，然而，这种病并不一定源自马的胃肠问题，其他问题也可能引发疝气病，该数据集中包含了医院检测马疝气病的一些指标，有的指标比较主观，有的指标难以测量，例如马的疼痛级别。另外，除...
分类：
编程语言 时间：
2015-10-14 00:13:14
阅读次数：
966
