一、神经网络1.为了进行梯度下降,误差函数不能是离散的,而必须是连续的。误差函数必须是可微分的。同时,要将离散预测变成连续预测,方法是将激活函数从阶跃函数变成S函数。 2.最大似然法:选出实际发生的情况所对应的概率更大的模型。 3.交叉熵(损失函数):将得到的概率取对数,对它们的相反数进行求和。准确 ...
分类:
其他好文 时间:
2018-11-26 22:09:27
阅读次数:
260
逻辑回归,简单的说,就是用sigmoid函数把连续函数归一化转化成离散的几个可能的结果。 逻辑回归的算法 最大似然法: 我自己的理解,最大似然法就是在你观测到某一系列事件出现的可能性之后,倒推该事件最可能的概率,这个最可能的概率会使这一系列事件发生的可能性无限接近我们观测到的可能性。 梯度下降法/随 ...
分类:
其他好文 时间:
2017-09-10 01:15:38
阅读次数:
189
对于最小二乘法,当从模型总体随机抽取n组样本观测值后,最合理的参数估计量应该使得模型能最好地拟合样本数据,也就是估计值和观测值之差的平方和最小。而对于最大似然法,当从模型总体随机抽取n组样本观测值后,最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。显然,这是从不同原理出发的两种参数 ...
分类:
其他好文 时间:
2017-07-28 21:00:21
阅读次数:
280
最大似然法,英文名称是Maximum Likelihood Method,在统计中应用很广。这个方法的思想最早由高斯提出来,后来由菲舍加以推广并命名。 最大似然法是要解决这样一个问题:给定一组数据和一个参数待定的模型,如何确定模型的参数,使得这个确定参数后的模型在所有模型中产生已知数据的概率最大。通 ...
分类:
其他好文 时间:
2017-05-28 17:28:37
阅读次数:
229
摘要 使用 Iso 聚类工具和最大似然法分类工具对一系列输入栅格波段运行非监督分类。 使用方法 · 此工具结合了 Iso 聚类工具与最大似然法分类工具的功能。输出经过分类的栅格。作为可选的,它也能够输出特征文件。 · 此工具生成的特征文件可用作其它分类工具(比如最大似然法分类)的输入。从而更好地控制 ...
分类:
其他好文 时间:
2017-04-22 17:33:08
阅读次数:
325
在Coursera机器学习课程中,第一篇练习就是如何使用最小均方差(Least Square)来求解线性模型中的参数。本文从概率论的角度 最大化似然函数,来求解模型参数,得到线性模型。本文内容来源于:《A First Course of Machine Learning》中的第一章和第二章。 先来看 ...
分类:
其他好文 时间:
2017-03-26 18:05:47
阅读次数:
151
说的通俗一点啊,最大似然估计,就是利用已知的样本结果,反推最有可能(最大概率)导致这样结果的参数值。例如:一个麻袋里有白球与黑球,但是我不知道它们之间的比例,那我就有放回的抽取10次,结果我发现我抽到了8次黑球2次白球,我要求最有可能的黑白球之间的比例时,就采取最大似然估计法: 我假设我抽到黑球的概 ...
分类:
其他好文 时间:
2017-01-07 01:16:58
阅读次数:
167
最大似然法,英文名称是Maximum Likelihood Method,在统计中应用很广。这个方法的思想最早由高斯提出来,后来由菲舍加以推广并命名。最大似然法是要解决这样一个问题:给定一组数据和一个参数待定的模型,如何确定模型的参数,使得这个确定参数后的模型在所有模型中产生已知数据的概率最 大。通...
分类:
其他好文 时间:
2015-12-03 00:50:51
阅读次数:
285
logistic 回归1.问题:在上面讨论回归问题时,讨论的结果都是连续类型,但如果要求做分类呢?即讨论结果为离散型的值。2.解答:
假设:
其中:
g(z)g(z)的图形如下:
由此可知:当hθ(x)h_\theta(x)<0.5时我们可以认为为0,反之为1,这样就变成离散型的数据了。
推导迭代式:利用概率论进行推导,找出样本服从的分布类型,利用最大似然法求出相应的θ\theta因此:...
分类:
其他好文 时间:
2015-08-05 18:33:10
阅读次数:
288
使用 Iso 聚类工具和最大似然法分类工具对一系列输入栅格波段执行非监督分类。...
分类:
其他好文 时间:
2015-07-20 16:46:45
阅读次数:
163