Excel实用知识2 【排序，筛选，分析工具（描述统计，相关系数，回归分析，抽样分析，预测工作表）】 Excel实用知识2 【排序，筛选，分析工具（描述统计，相关系数，回归分析，抽样分析，预测工作表）】 纯手打，可能有错别字，使用的版本是office2013 转载请注明出处 http://www.c ...
分类：
编程语言 时间：
2017-01-21 21:16:37
阅读次数：
272
看机器学习看到了回归函数，看了一半看不下去了，看到能用方差进行函数回归，又手痒痒了，自己推公式写代码验证：常见的最小二乘法是一阶函数回归回归方法就是寻找方差的最小值y = kx + bxi, yiy-yi = kxi+b-yi方差为∑(kxi + b - yi )^2f = k^2∑xi^2 + b... ...
分类：
编程语言 时间：
2017-01-01 21:34:40
阅读次数：
297
机器学习中的矩阵方法04：SVD 分解 前面我们讲了 QR 分解有一些优良的特性，但是 QR 分解仅仅是对矩阵的行进行操作（左乘一个酉矩阵），可以得到列空间。这一小节的 SVD 分解则是将行与列同等看待，既左乘酉矩阵，又右乘酉矩阵，可以得出更有意思的信息。奇异值分解( SVD, Singular V ...
分类：
其他好文 时间：
2016-12-10 00:27:36
阅读次数：
236
1. QR 分解的形式 QR 分解是把矩阵分解成一个正交矩阵与一个上三角矩阵的积。QR 分解经常用来解线性最小二乘法问题。QR 分解也是特定特征值算法即QR算法的基础。用图可以将分解形象地表示成： 其中， Q 是一个标准正交方阵， R 是上三角矩阵。 2. QR 分解的求解 QR 分解的实际计算有很 ...
分类：
其他好文 时间：
2016-12-10 00:15:22
阅读次数：
247
上篇文章介绍了最小二乘法的理论与证明、计算过程，这里给出两个最小二乘法的计算程序代码； Octave代码 运行结果 文章首发地址：Solinxhttp://www.solinx.co/archives/717 ...
分类：
其他好文 时间：
2016-12-05 14:20:27
阅读次数：
221
相信学过数理统计的都学过线性回归（linear regression），本篇文章详细将讲解单变量线性回归并写出使用最小二乘法（least squares method）来求线性回归损失函数最优解的完整过程，首先推导出最小二乘法，后用最小二乘法对一个简单数据集进行线性回归拟合； 线性回归 线性回归假设 ...
分类：
其他好文 时间：
2016-12-05 14:18:07
阅读次数：
436
上篇文章中介绍了单变量线性回归，为什么说时单变量呢，因为它只有单个特征，其实在很多场景中只有单各特征时远远不够的，当存在多个特征时，我们再使用之前的方法来求特征系数时是非常麻烦的，需要一个特征系数一个偏导式，而却最要命的时特性的增长时及其迅猛的，几十、几百、几千…… 单变量线性回归：多变量线性回归： ...
分类：
其他好文 时间：
2016-12-05 14:14:59
阅读次数：
230
上篇文章介绍了最小二乘法矩阵形式的理论与证明、计算过程，这里使用程序代码的方式计算出矩阵形式的解，并给出线性拟合； Octave代码 运行结果 文章首发地址：Solinxhttp://www.solinx.co/archives/753 ...
分类：
其他好文 时间：
2016-12-05 13:59:22
阅读次数：
221
java中调用commons.math3使用最小二乘法。 在这里记录一下使用方法。 ...
分类：
编程语言 时间：
2016-11-27 19:57:46
阅读次数：
331
设输入集为$x_i$，其中$i$取$1\ldots n$,对每一个输入$x_i$，都有一个真实的输出$y_i$，现在的目的就是要构建一个模型，使得该模型对于输入的$x_i$都能输出一个预测值${\hat y}_i$，并尽可能准确。 最简单的，可将模型构建为线性模型： $$f_{\theta}(x)= ...
分类：
其他好文 时间：
2016-11-21 19:23:18
阅读次数：
139
