在之前的文章当中，我们介绍过了简单的朴素贝叶斯分类模型，介绍过最小二乘法，所以这期文章我们顺水推舟，来讲讲 线性回归 模型。 线性回归的本质其实是一种 统计学 当中的回归分析方法，考察的是 自变量和因变量之间的线性关联 。后来也许是建模的过程和模型训练的方式和机器学习的理念比较接近，所以近年来，这个 ...
分类：
其他好文 时间：
2020-02-05 10:16:34
阅读次数：
71
本文始发于个人公众号： TechFlow 今天这篇文章和大家聊聊 期望和方差 。 期望 期望这个概念我们很早就在课本里接触了，维基百科的定义是： 它表示的是一个随机变量的值在每次实验当中可能出现的结果乘上结果概率的总和 。换句话说，期望值衡量的是多次实验下，所有可能得到的状态的平均结果。 我们举两个 ...
分类：
其他好文 时间：
2020-01-24 17:10:35
阅读次数：
287
[TOC] 可能我从来就没真正的整明白过，只是会考试而已 搞清楚事情的来龙去脉不容易忘记 两个常见的参数估计法： 极大似然估计法和最小二乘法 1.极大似然估计 "ref知乎" ,模型已定，参数未知的条件下，根据实验数据估计参数模型，等价于“利用已知的样本结果，反推最有可能（最大概率）导致这样结果的参 ...
分类：
其他好文 时间：
2020-01-14 11:26:18
阅读次数：
151
根据已知特征值X和标签结果Y,我们利用线性回归模型（为了简化，作者以一元线性回归为例说明）可以得出 yi^=wxi+b。 损失函数：loss=Σ(yi-yi^)2 ，为了得到更加准确的拟合模型，我们的目标就转化为使损失函数loss最小，即： argmin loss=argmin Σ(yi-yi^)2 ...
分类：
其他好文 时间：
2020-01-11 14:57:31
阅读次数：
154
时间序列ARIMA模型 1、数据的平稳性与差分法 让均值和方差不发生明显的变化（让数据变平稳），用差分法 2、ARIMA模型 差分自回归平均移动模型 求解回归的经典算法：最大似然估计、最小二乘法 在具体运用时，需要指定三个参数，即（p，d，q）； 其中：p表示自回归的阶数， d表示做几阶差分（一般做 ...
分类：
其他好文 时间：
2020-01-05 19:06:53
阅读次数：
133
转自：https://blog.csdn.net/ccnt_2012/article/details/81127117 原理和求解比较简单，作为自己学习记录一下 1 日用而不知 来看一个生活中的例子。比如说，有五把尺子： 用它们来分别测量一线段的长度，得到的数值分别为（颜色指不同的尺子）： 之所以出 ...
分类：
其他好文 时间：
2019-12-27 17:54:52
阅读次数：
115
特点： 是一个二叉树，元素可以重复利用，可以做回归也可以做分类，分类用最小二乘法，即误差平方和最小 切割方法： 对于可量化的x来说： 切割点通常为两个x的平均值 左右两部分分别取均值，再评判以哪个分割点的误差平方和最小，即第一层根节点为此点 以此为规则，往下迭代，构建出回归树 对于不可量化的x来说： ...
分类：
编程语言 时间：
2019-12-27 12:03:23
阅读次数：
126
``` // 【头文件包含部分】 // 描述：包含程序所依赖的头文件 // include"opencv2/highgui/highgui.hpp" include"opencv2/imgproc/imgproc.hpp" include // 【命名空间声明部分】 // 描述：包含程序所使用的命名 ...
分类：
其他好文 时间：
2019-12-25 17:51:32
阅读次数：
437
因为 是协方差矩阵，只有对角线上有元素，所以转置对它没有影响，即 其实递推最小二乘法：就是想使方差之和最小，然后发现，方差之和就是估计误差的协方差矩阵的迹，迹里面又包含了K，所以也就是求K使得迹最小，即对K求导。 参考链接：https://zhuanlan.zhihu.com/p/59532437 ...
分类：
其他好文 时间：
2019-12-20 20:40:34
阅读次数：
85
