Ordinary Least Squares 普通最小二乘法 当达到最小值的时候，就达到最佳拟合直线 求关于系数w 最小二次方程的最小值，可以利用求对w偏导数 同上面等价的另外一种形式的表示： 也可以简化成 推导过程： Ridge Regression 岭回归 Ridge Regression 岭回 ...
分类：
其他好文 时间：
2016-08-05 07:44:12
阅读次数：
133
参看博文http://www.tuicool.com/articles/2qYjuy 逻辑回归的输出范围是[0,1]，根据概率值来判断因变量属于0还是属于1 实现过程分三步： indicated function指示函数 ...
分类：
其他好文 时间：
2016-07-31 17:36:01
阅读次数：
127
I was going through the Coursera "Machine Learning" course, and in the section on multivariate linear regression something caught my eye. Andrew Ng pr ...
分类：
其他好文 时间：
2016-07-29 18:38:12
阅读次数：
200
第二章 单变量线性回归(Linear Regression with One Variable)...
分类：
系统相关 时间：
2016-07-22 19:27:59
阅读次数：
260
奥地利符号计算研究所（Research Institute for Symbolic Computation，简称RISC）的Christoph Koutschan博士在自己的页面上发布了一篇文章，提到他做了一个调查，参与者大多数是计算机科学家，他请这些科学家投票选出最重要的算法，以下是这次调查的结 ...
分类：
编程语言 时间：
2016-07-22 10:17:07
阅读次数：
145
机器学习中的数学(1)-回归(regression)、梯度下降(gradient
descent)
版权声明：
本文由LeftNotEasy所有，发布于http://leftnoteasy.cnblogs.com。如果转载，请注明出处，在未经作者同意下将本文用于商业用途，将追究其法律责任。
前言:
上次写过一篇关于贝叶斯概率论的数学，最近时间比较紧，coding的任...
分类：
其他好文 时间：
2016-07-19 13:52:57
阅读次数：
192
前言
这是一篇用低秩矩阵分解做纺织物缺陷检测的文章，论文修改了传统的LRR模型，将原始的混合范数替换为F范数，起了一个新名字叫先验知识指导下的最小二乘回归，本质上并无明显区别。我认为该文实际出彩的地方是构建模板参照图像上，其基本思路是，缺陷只占纺织物图像的一小部分，那么我随机在纺织物图像上取块，很大可能是取得无缺陷的图像块，利用随机取得到的块来构建参照，当做无缺陷的纺织物图像。这和传统的纺织物缺...
分类：
其他好文 时间：
2016-07-19 11:15:11
阅读次数：
523
回归- Regression——————————————————————————————————————————回归- Regression
线性回归Linear regression
模型表示Model representation
代价函数Cost function
目标Goal
多项式回归
加权线性回归
一般线性回归
通用的指数概率分布
伯努利分布
高斯分布
微分与导数1
微分
导数
方向导数...
分类：
其他好文 时间：
2016-07-19 10:33:31
阅读次数：
181
机器学习的应用建议
好久没有更新机器学习的学习笔记了，上一次还是更新的神经网络的部分。这一次我们来聊一聊，机器学习的应用建议。
决定下一步做什么
假设我们需要用一个线性回归模型(Linear Regression)来预测房价，当我们运用训练好了的模型来预测未知数据的时候，发现有较大的误差，我们下一步可以做什么？
获得更多的训练实例——通常是有效的，但是代价较大，下面的方法也...
分类：
其他好文 时间：
2016-07-13 17:34:10
阅读次数：
216
题目给出的数据是一组2-8岁男童的身高。x是年龄，y是身高。样本数m=50. 使用gradient descent来做线性回归。 step1：数据准备。 加载数据： >> x=load('ex2x.dat'); >> y=load('ex2y.dat'); 可视化数据： 效果如下： 我们将模型设定为 ...
分类：
其他好文 时间：
2016-07-12 12:01:26
阅读次数：
229
