先说一下自己对于神经网络的理解 ###1、一元线性回归 首先说 一元线性回归 已知 x, y,通过算法探求 x->y 的规律,也就是计算 a,b的 值。 常用的算法 最小二乘法 ###2、多元线性回归 已知 x, y,通过算法探求 x->y 的规律,也就是计算 各个β,ε的 值。 常用的算法 最小二 ...
分类:
其他好文 时间:
2020-07-19 11:49:59
阅读次数:
71
1 orthonormal 向量与 Orthogonal 矩阵 orthonormal 向量定义为 ,任意向量 相互垂直,且模长为1; 如果将 orthonormal 向量按列组织成矩阵,矩阵为 Orthogonal 矩阵,满足如下性质: ; 当 为方阵时,为其逆矩阵;当 为长方形矩阵时,为其左逆; ...
分类:
其他好文 时间:
2020-07-13 18:45:47
阅读次数:
94
#!/usr/bin/env python import tensorflow as tf import numpy as np import matplotlib.pyplot as plt # Import MNIST data from tensorflow.examples.tutorial ...
分类:
其他好文 时间:
2020-06-26 16:25:26
阅读次数:
49
理解: 最小:理论值和观测值之差的平方和最小。 高斯于1823年在误差e1 ,… , en独立同分布的假定下,证明了最小二乘方法的一个最优性质: 在所有无偏的线性估计类中,最小二乘方法是其中方差最小的! 现行的最小二乘法是勒让德( A. M. Legendre)于1805年在其著作《计算慧星轨道的新 ...
分类:
其他好文 时间:
2020-06-22 11:13:01
阅读次数:
57
对于一般的指数曲线如:y=a*e^(k*t),可以先对两边求对数得到:log(y) = log(a)+k*t 这样的曲线,然后用最小二乘来计算系数。 但是对于修正指数曲线如:y=k+a*b^t 这样的函数,没法直接求对数然后用最小二乘,因为有一个常数项k,这里可以利用三和法来计算系数。 对于曲线 y ...
分类:
其他好文 时间:
2020-06-20 16:10:57
阅读次数:
60
一、求解线性方程组 1、numpy的线性代数子模块linalg中提供了求解线性方程组的solve()函数和求解线性方程组最小二乘解的lstsq()函数 例: import numpy as np a=np.array([[3,1],[1,2]])b=np.array([9,8])x=np.linal ...
分类:
编程语言 时间:
2020-06-15 23:05:15
阅读次数:
65
1.移动最小二乘法介绍 为了更好地对数据量大且形状复杂的离散数据进行拟合,曾清红等人[1]开发出一种新的算法——移动最小二乘法。这种新的最小二乘算法为点云数据的处理提供了新的方法。使用点云数据拟合曲面时,由于点云的数据量大、形状复杂的特点,如果使用传统的最小二乘法拟合可能会得到病态的曲面方程,从而导 ...
分类:
移动开发 时间:
2020-06-14 12:42:27
阅读次数:
77
最小二乘法 测量一个棍子,10次数据如下: 12.3 , 11.8,11.2,11.6,12.5,12.1.11.6.12.0,12.4,11.2 怎样获取最后结果???? 这样做有道理吗?用调和平均数行不行?用中位数行不行?用几何平均数行不行? 从概论的角度考虑,每次测量结果的概率值为 Pi, 那 ...
分类:
其他好文 时间:
2020-05-24 09:22:32
阅读次数:
56
模型估计与模型选择 模型估计 当损失函数给定时,基于损失函数的模型的训练误差和模型的测试误差就成为了学习方法评估的标准。测试误误差反映了学习方法对未知的测试数据集的预测能力,又被称为泛化能力。 过拟合:一味的追求提高训练数据的预测能力,所选模型的复杂度则往往会比真模型更高,但会造成过拟合。为了防止过 ...
分类:
其他好文 时间:
2020-05-23 09:56:42
阅读次数:
46