MATLAB实例：非线性曲线拟合 作者：凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/ 用最小二乘法拟合非线性曲线，给出两种方法：(1)指定非线性函数，(2)用傅里叶函数拟合曲线 1. MATLAB程序 2. 结果 Fig 1. Lennard-Jones势 ...
分类：
其他好文 时间：
2019-11-12 09:23:10
阅读次数：
86
线性回归之最小二乘法 1.最小二乘法的原理 最小二乘法的主要思想是通过确定未知参数$\theta$（通常是一个参数矩阵），来使得真实值和预测值的误差（也称残差）平方和最小，其计算公式为$E=\sum_{i=0}^ne_i^2=\sum_{i=1}^n(y_i \hat{y_i})$，其中$y_i$是 ...
分类：
其他好文 时间：
2019-11-07 23:10:55
阅读次数：
94
转：https://www.cnblogs.com/softlin/p/5965939.html 上篇文章中介绍了单变量线性回归，为什么说时单变量呢，因为它只有单个特征，其实在很多场景中只有单各特征时远远不够的，当存在多个特征时，我们再使用之前的方法来求特征系数时是非常麻烦的，需要一个特征系数一个偏 ...
分类：
其他好文 时间：
2019-11-05 00:39:20
阅读次数：
133
1. 参数估计(点估计)：样本信息已知，对总体分布和参数做出估计。方法有：矩估计，最大似然估计，最小二乘估计。 2. 矩估计：用样本的k阶原点矩替代总体的k阶原点矩，这样得到的位置参数θ的估计量称为θ的矩估计量 3. 极大似然估计：参数的极大似然估计就是在参数空间中找到一个最恰当的值，就目前的样本空 ...
分类：
其他好文 时间：
2019-11-03 20:26:11
阅读次数：
91
预期逻辑顺序： 最小二乘原理（大约一小段） 最小二乘历史由来， 最小二乘法公式形式（以一次函数为例） 最小二乘估计分析 最小二乘性质，特点 高斯分布 t分布 加入正则化的考量（Hilbert空间，kernel方法，表示定理） 拉普拉斯正则化最小二乘 以上大致框架，回头慢慢补细节 涉及知识，概率论数理 ...
分类：
其他好文 时间：
2019-10-26 01:11:22
阅读次数：
105
[TOC]更新、更全的《机器学习》的更新网站，更有python、go、数据结构与算法、爬虫、人工智能教学等着你：https://www.cnblogs.com/nickchen121/# 最小二乘法最小二乘法，可以理解为最小平方和，即误差的最小平方和，在线性回归中，$误差=真实值-预测值$。最小二乘... ...
分类：
其他好文 时间：
2019-10-16 17:49:14
阅读次数：
89
import org.apache.spark.mllib.recommendation.{ALS,MatrixFactorizationModel,Rating} ALS:最小二乘法求解矩阵分解问题的最优化方法。其实，就是补充二维矩阵中缺失的打分。 输入：显性数据-train,隐形数据-train ...
分类：
其他好文 时间：
2019-09-30 14:26:49
阅读次数：
90
最近看了一本线性代数，如下图这个样的。。。比较讨厌的是这本书的排版贼难受，定义和定理加粗基本和没加一样，排版也过于紧密，看起来一度想弃书。 重点不在这里，哈哈哈哈。 这几天看完线代后，有一个粗略的理解后，菜虽然菜，但我还是想要倒腾倒腾。想起之前学过的最小二乘法，不过是一个二阶的最小二乘法，也撸了代码 ...
分类：
其他好文 时间：
2019-09-30 12:59:45
阅读次数：
124
最小二乘法(LMS) 给定数据 $D={(x^{(1)},y^{(1)}),(x^{(2)},y^{(2)}),...,(x^{(N)},y^{(N)})}$ ，$h_{\theta}(x)=\theta^T x=\theta_0x_0+\theta_1x_1+...+\theta_nx_n=\th ...
分类：
其他好文 时间：
2019-09-27 23:09:16
阅读次数：
97
一 常规最小二乘法拟合直线 已知数据点为 ，欲拟合直线 ，则有最小化：。 使用矩阵表示，令 ，则有：, X, Y已知，要使E最小化，则向量B求导等于零：，整理得：。 二 使用垂直距离改写E 常规最小二乘法有如下问题： 1）数据点旋转后，求解得直线是变化的； 2）垂直直线无法求解； 通过修改 E 表达 ...
分类：
其他好文 时间：
2019-09-17 10:55:56
阅读次数：
109
