似然：在确定的结果下取推测产生这个结果最可能的环境（参数），似然和概率在数值上是相等的，即P(x|θ) = L(θ|x)。 作用：参数估计，在已知事件的情况下，用来估计满足这些样本分布的参数，估计出可能性最大的那个参数。 求解过程：（1）写出似然函数 （2）对似然函数进行取对数 （3）对参数进行求导 ...
分类：
其他好文 时间：
2019-11-04 09:25:40
阅读次数：
85
1. 参数估计(点估计)：样本信息已知，对总体分布和参数做出估计。方法有：矩估计，最大似然估计，最小二乘估计。 2. 矩估计：用样本的k阶原点矩替代总体的k阶原点矩，这样得到的位置参数θ的估计量称为θ的矩估计量 3. 极大似然估计：参数的极大似然估计就是在参数空间中找到一个最恰当的值，就目前的样本空 ...
分类：
其他好文 时间：
2019-11-03 20:26:11
阅读次数：
91
隐马尔科夫模型是一种序列模型，广泛应用于自然语言处理，语音识别，生物信息等领域。 1. 模型的定义与约定： 定义：一个隐马尔科夫模型指的是如下的两个随机序列$I,O$： 1）一个不可观测随机序列：$I=(i_{1},...,i_{T})$, 可以取值状态集合$Q=\lbrace 1,...,K\rb ...
分类：
其他好文 时间：
2019-11-02 00:31:05
阅读次数：
105
一、核心思想：由部分估计整体 二、具体分析 （1）先举一个最简单的例子，如下： 转换成更专业一点的就是：现在有一个样本分布为A，我们从这个样本分布中获得了一部分样本a，极大似然就是要利用这部分a来估计A的分布； 做法就是对A构建模型，模型参数为Q，然后再构建极大似然函数表示在何种模型参数Q下可以最大 ...
分类：
其他好文 时间：
2019-10-28 13:00:03
阅读次数：
80
逻辑回归 理论分析 概述 ? Logistic回归在本质上是线性回归，只是在特征到结果的映射中加入了一层函数映射，即先把特征线性求和，然后使用函数$g(z)$将上述结果映射到0 1上。 优点：计算代价不高，易于理解和实现 缺点：容易欠拟合，分类精度不高 适用数据：数值型和标称型 映射函数 sigmo ...
分类：
其他好文 时间：
2019-10-07 11:16:28
阅读次数：
90
1、什么是逻辑回归； 2、逻辑回归的流程及推导； 3、逻辑回归的多分类 4、逻辑回归VS线性回归 5、逻辑回归 VS SVM 1、什么使逻辑回归； 名为回归，实际是分类，通过计算$P(y=0|x;\theta )$的大小来预测分类类别，预测的是类别0，1，而不是概率，但计算的是概率；$0\leq P ...
分类：
其他好文 时间：
2019-09-01 14:52:04
阅读次数：
76
1、似然函数 概率和似然的区别：概率是已知参数的条件下预测未知事情发生的概率，而似然性是已知事情发生的前提下估计模型的参数。我们通常都是将似然函数取最大值时的参数作为模型的参数。 那么为何要取似然函数取最大值的参数作为模型的参数？我们基于这样的假设：对于已经发生的事情，在同样条件下再次发生的概率就会 ...
分类：
其他好文 时间：
2019-08-29 20:05:33
阅读次数：
101
逻辑斯蒂回归主要用于二分类，推广到多分类的话是类似于softmax分类。求 上述问题可以通过最大化似然函数求解。 上述问题可以采用最小化logloss进行求解。 一般地，我们还需要给目标函数加上正则项，参数w加上l1或者l2范数。 LR适合大规模数据，数据量太小的话可能会欠拟合（考虑到数据通常比较稀 ...
分类：
其他好文 时间：
2019-08-18 17:52:13
阅读次数：
157
生存分析 三大块内容： 1，描述性的 生存率、中位生存期、生存曲线等，常用Kaplan-meier法 2，比较分析 两组的生存曲线是否有差别，log-rank检验（单个因素） 3，cox比例风险回归 类似logistic回归，多个变量对Y的影响，得到一个概率值，只不过加了时间 多花点时间聊聊cox的 ...
分类：
其他好文 时间：
2019-08-10 19:05:39
阅读次数：
134
文章目录1. 什么是EM算法1.1 似然函数1.3 极大似然函数的求解步骤1.4 EM算法2. 采用 EM 算法求解的模型有哪些？3.代码实现4. 参考文献 1. 什么是EM算法 最大期望算法（Expectation-maximization algorithm，又译为期望最大化算法），是在概率模.... ...
分类：
编程语言 时间：
2019-07-21 13:17:26
阅读次数：
138
