总结：由于逻辑回归假定y的条件分布(y|x)是伯努利分布，所以根据广义线性模型和指数分布簇的定义可以得到逻辑回归的假设函数是sigmoid函数。广义线性模型的三个假设——逻辑回归1、 假定服从指数分布簇的某个分布 逻辑回归中，，所以假定【即已知参数θ的情况下，给定x，y的条件概率服从参数的伯努利分....
分类：
其他好文 时间：
2015-07-22 20:17:40
阅读次数：
199
大学时，我一直觉得统计学很难，还差点挂科。工作以后才发现，难的不是统计学，而是我们的教材写得不好。比起高等数学，统计概念其实容易理解多了。我举一个例子，什么是泊松分布和指数分布？恐怕大多数人都说不清楚。我可以在10分钟内，让你毫不费力地理解这两个概念。一、泊松分布日常生活中，大量事件是有固定频率的。...
分类：
其他好文 时间：
2015-07-17 17:54:44
阅读次数：
130
逻辑回归是广义线性模型的一种特殊情况，但是在前面这篇http://blog.csdn.net/zhangzhengyi03539/article/details/46574803 讲逻辑回归的时候没有说明为什么要采用单极型函数，这篇文章将会从浅入深的讲解一下广义线性模型。
首先来说一下指数分布族。...
分类：
其他好文 时间：
2015-07-11 09:18:34
阅读次数：
150
指数分布族形式：应用：1. logistic 回归：
logistics 回归其实是伯努利分布。p(y;θ)=θy?(1?θ)1?yp(y;\theta) = \theta^y * (1-\theta)^{1-y} . 其中θ\theta可以看做hθ(x)h_\theta(x)
伯努利分布是指数分布的一个特列：
其中：
η=log(θ1?θ)\eta = log(\frac\theta{...
分类：
其他好文 时间：
2015-06-21 13:16:24
阅读次数：
239
本系列文章允许转载，转载请保留全文！【请先阅读】【说明&总目录】http://www.cnblogs.com/tbcaaa8/p/4415055.html1. 指数分布族简介之前的文章分别介绍了因变量服从高斯分布、伯努利分布、泊松分布、多项分布时，与之对应的回归模型，本文章将阐释这些模型的共同点，并...
分类：
系统相关 时间：
2015-05-16 20:13:32
阅读次数：
232
由于篇幅有限，前一篇文章中只讲述了用均匀分布产生离散分布的方法，那么本文接着讲如何利用均匀分布产生连续分布的方法。
连续分布
连续分布主要有以下几种：均匀分布 伽马分布 正态分布 贝塔分布 柯西分布 对数正态分布 双指数分布。
产生各种连续分布的方法有很多，我把它分为两类：通用方法、特殊方法。特殊方法就是根据各个连续分布的特性而特有的方法。
通用方法
通用方法指的是对于各种连续分...
分类：
其他好文 时间：
2015-05-12 18:49:43
阅读次数：
225
本文讲解了泊松分布和指数分布的公式以及应用场景，并且讲解了一种构造随机数生成器的简便方法以及两种分布的随机数生成器的C语言程序...
分类：
编程语言 时间：
2015-05-05 23:59:51
阅读次数：
533
指数分布族 首先需要提及下指数分布族，它是指一系列的分布，只要其概率密度函数可以写成下面这样的形式：\(\begin{aligned} p(y;\eta)=b(y)exp(\eta^TT(y)-a(\eta))\end{aligned}\) 一般的很多分布（如高斯分布，泊松分布，二项式分布，伽马.....
分类：
其他好文 时间：
2015-04-13 18:40:56
阅读次数：
152
牛顿方法本次课程大纲：1、牛顿方法：对Logistic模型进行拟合2、指数分布族3、广义线性模型（GLM）：联系Logistic回归和最小二乘模型复习：Logistic回归：分类算法假设给定x以为参数的y=1和y=0的概率：求对数似然性：对其求偏导数，应用梯度上升方法，求得：本次课程介绍的牛顿方法是...
分类：
其他好文 时间：
2015-04-11 14:49:46
阅读次数：
166
Exponential family(指数分布族)是一个经常出现的概念，但是对其定义并不是特别的清晰，今天好好看了看WIKI上的内容，有了一个大致的了解，先和大家分享下。本文基本是WIKI上部分内容的翻译。 1. 几个问题 什么是指数分布族？ 既然是”族“，那么族内的共同特点是什么？ 为何指数分布族...
分类：
其他好文 时间：
2015-04-03 17:11:42
阅读次数：
233
