似然 这个词害死人啊! 拽什么拽啊,就是 最大可能估计!还有什么极大似然估计。都是坑人的,都一样。 最大似然估计是机器学习领域最为常见的用来构建 目标函数 的方法。 他的核心思想是:根据观测到的结果来预测其中的未知参数。 假设有一枚硬币,它是不均匀的,也就是说出现正面的反面的概率是不同的。假设我们设 ...
分类:
其他好文 时间:
2020-02-13 21:21:07
阅读次数:
100
原文链接:http://tecdat.cn/?p=10175 几个月以来,我一直对序数回归与项目响应理论(IRT)之间的关系感兴趣。 在这篇文章中,我重点介绍Rasch分析。 最近,我花了点时间尝试理解不同的估算方法。三种最常见的估算方法是: 联合最大似然(JML) 条件逻辑回归,在文献中称为条件最 ...
分类:
编程语言 时间:
2020-01-20 19:21:58
阅读次数:
287
根据已知特征值X和标签结果Y,我们利用线性回归模型(为了简化,作者以一元线性回归为例说明)可以得出 yi^=wxi+b。 损失函数:loss=Σ(yi-yi^)2 ,为了得到更加准确的拟合模型,我们的目标就转化为使损失函数loss最小,即: argmin loss=argmin Σ(yi-yi^)2 ...
分类:
其他好文 时间:
2020-01-11 14:57:31
阅读次数:
154
机器学习基础 [toc] 1. 概率和统计 概率(probabilty)和统计(statistics)看似两个相近的概念,其实研究的问题刚好相反。 顾名思义: 概率研究的问题是,已知一个模型和参数,怎么去预测这个模型产生的结果的特性(例如均值,方差,协方差等等)。 统计研究的问题则相反。统计是,有一 ...
分类:
其他好文 时间:
2020-01-09 00:55:49
阅读次数:
134
时间序列ARIMA模型 1、数据的平稳性与差分法 让均值和方差不发生明显的变化(让数据变平稳),用差分法 2、ARIMA模型 差分自回归平均移动模型 求解回归的经典算法:最大似然估计、最小二乘法 在具体运用时,需要指定三个参数,即(p,d,q); 其中:p表示自回归的阶数, d表示做几阶差分(一般做 ...
分类:
其他好文 时间:
2020-01-05 19:06:53
阅读次数:
133
原文 | https://mp.weixin.qq.com/s/bOchsmHTINKKlyabCQKMSg 相关阅读 最大似然估计(概率10) 寻找“最好”(3)函数和泛函的拉格朗日乘数法 伯努利分布 如果随机试验仅有两个可能的结果,那么这两个结果可以用0和1表示,此时随机变量X将是一个0/1的变 ...
分类:
其他好文 时间:
2019-12-28 20:40:55
阅读次数:
95
1.EM算法概念 EM 算法,全称 Expectation Maximization Algorithm。期望最大算法是一种迭代算法,用于含有隐变量(Hidden Variable)的概率参数模型的最大似然估计或极大后验概率估计。 1.1 问题描述 我们假设学校男生和女生分别服从两种不同的正态分布, ...
分类:
编程语言 时间:
2019-12-09 17:00:50
阅读次数:
86
What 现有多个变量X1, X2, X3, ....会对结果数据Y产生影响,现在要求出这些变量Xn对于最终结果的影响权重。找到一个线(两个变量),面(三个变量)来拟合这些权重的数值。通过训练数据得到这些参数,然后使用这些参数(模型)对新数据进行预测 例如,拟合一个平面: 其中 θ0表示预置的权重参 ...
分类:
其他好文 时间:
2019-12-03 23:17:29
阅读次数:
92
第二章 置信区间估计 估计量和估计值的写法? 估计值希腊字母上边有一个hat 点估计中矩估计的原理? 用样本矩来估计总体矩,用样本矩的连续函数来估计总体矩的连续函数,这种估计法称为矩估计法。Eg:如果一阶矩则样本均值估计总体均值 公式化之后的表达: 其中的μ1的表达式: 矩估计和最大似然估计最终估计 ...
分类:
其他好文 时间:
2019-11-18 20:19:28
阅读次数:
164
似然:在确定的结果下取推测产生这个结果最可能的环境(参数),似然和概率在数值上是相等的,即P(x|θ) = L(θ|x)。 作用:参数估计,在已知事件的情况下,用来估计满足这些样本分布的参数,估计出可能性最大的那个参数。 求解过程:(1)写出似然函数 (2)对似然函数进行取对数 (3)对参数进行求导 ...
分类:
其他好文 时间:
2019-11-04 09:25:40
阅读次数:
85