支持向量机(SVM)是90年代中期发展起来的基于统计学习理论的一种机器学习方法，通过寻求结构化风险最小来提高学习机泛化能力，实现经验风险和置信范围的最小化，从而达到在统计样本量较少的情况下，亦能获得良好统计规律的目的。...
分类：
其他好文 时间：
2016-05-13 03:23:11
阅读次数：
376
本文将叙述朴素贝叶斯算法的来龙去脉，从数学推导到计算演练到编程实战文章内容有借鉴网络资料、李航《统计学习方法》、吴军《数学之美》加以整理及补充基础知识补充：
1、贝叶斯理论–吴军数学之美
http://mindhacks.cn/2008/09/21/the-magical-bayesian-method/2、条件概率
3、联合分布
朴素贝叶斯算法
朴素贝叶斯法是基于贝叶斯定...
分类：
编程语言 时间：
2016-05-12 17:52:49
阅读次数：
486
逻辑回归（Logistic regression）
逻辑回归是统计学习中的经典分类方法。其多用在二分类{0,1}问题上。
定义1：
设X是连续随机变量，X服从逻辑回归分布是指X具有下列分布函数与密度函数：
分布函数属于逻辑斯谛函数，其图形是一条S形曲线。
定义2：
二项逻辑斯谛回归模型是如下条件概率分布：
从上式可以看出，逻辑回归对线性回归经行了归一化...
分类：
编程语言 时间：
2016-05-12 15:23:00
阅读次数：
346
支持向量机SVM
支持向量机（support vector machine，SVM）是由Cortes和Vapnik在1995年提出的，由于其在文本分类和高维数据中强大的性能，很快就成为机器学习的主流技术，并直接掀起了“统计学习”在2000年前后的高潮，是迄今为止使用的最广的学习算法。
本篇将要简要的介绍一下SVM，如有错误请批评指正，共同学习。本文主要分为以下几个部分：
SV...
分类：
系统相关 时间：
2016-05-12 12:45:35
阅读次数：
355
声明：
1，本篇为个人对《2012.李航.统计学习方法.pdf》的学习总结，不得用作商用，欢迎转载，但请注明出处（即：本帖地址）。
2，由于本人在学习初始时有很多数学知识都已忘记，所以为了弄懂其中的内容查阅了很多资料，所以里面应该会有引用其他帖子的小部分内容，如果原作者看到可以私信我，我会将您的帖子的地址付到下面。
3，如果有内容错误或不...
分类：
编程语言 时间：
2016-05-12 11:28:38
阅读次数：
273
声明：
1，本篇为个人对《2012.李航.统计学习方法.pdf》的学习总结，不得用作商用，欢迎转载，但请注明出处（即：本帖地址）。
2，由于本人在学习初始时有很多数学知识都已忘记，所以为了弄懂其中的内容查阅了很多资料，所以里面应该会有引用其他帖子的小部分内容，如果原作者看到可以私信我，我会将您的帖子的地址付到下面。
3，如果有内容错误或不...
分类：
编程语言 时间：
2016-05-12 11:26:07
阅读次数：
239
第四章习题，部分题目未给出答案 1. 这个题比较简单，有高中生推导水平的应该不难。 2~3证明题，略 4. (a) 这个问题问我略困惑，答案怎么直接写出来了，难道不是10%么 (b) 这个答案是(0.1*0.1)/(1*1)，所以答案是1% (c) 其实就是个空间所占比例，所以这题是(0.1**10 ...
分类：
其他好文 时间：
2016-05-08 18:26:25
阅读次数：
1922
感知机(Perceptron)是二分类问题的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。 感知机于输入空间（特征空间）中将实例划分为正负两类的分离超平面，属于判别模型。感知机于1957年由Rosenblatt提出，是神经网络和支持向量机的基础。 在这里，不用《统计学习方 ...
分类：
其他好文 时间：
2016-05-08 16:51:49
阅读次数：
785
第一章 随机事件与概率
第二章 随机变量及其分布
第三章 多维随机变量及其分布
第四章 大数定律与中心极限定理
第五章 统计量及其分布
第六章 参数估计
第七章 假设检验
第八章 方差分析与回归分析
第一章 随机事件与概率
1.1随机事件及其运算
概率论与数理统计研究的对象是随机现象. 概率论是研究随机现象的模型（即概率分布），数理统计是研究随机现象的数据收集与处理...
分类：
其他好文 时间：
2016-05-07 07:46:55
阅读次数：
132
1.1 统计学习概念
统计学习(statistical learning)是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测和分析的一门学科,统计学习也成为统计机器学习(statistical machine learning).
特点
统计学习将数据作为研究对象,是数据驱动的学科
统计学习的目的是对数据进行预测和分析
统计学习以方法为中心,统计学习方法构建模型并应用...
分类：
其他好文 时间：
2016-05-07 07:46:37
阅读次数：
154
