那几年，我学习机器学习的主要内容：
1.机器学习基本导论，机器学习入门了解；
2.线性回归与Logistic。xx业绩预测系统，智能交互统计系统等；
3.岭回归，Lasso，变量选择技术。维度的技巧等技术；
4.降维技术。xx指标设计，具体规范；
5.线性分类器，Knn算法，朴素贝叶斯分类器，文本挖掘。XX智能垃圾消息，垃圾邮件判断，评论智能分析，智能监控统计预警系统呀。
6.决策树，组合提升算...
分类：
其他好文 时间：
2015-03-20 14:27:55
阅读次数：
168
---恢复内容开始--- 参考：http://www.cnblogs.com/fxjwind/p/3607784.html 感知机（perceptron)是二类分类的线性分类模型，属于判别模型（直接寻找输入到输出的映射函数，不关心联合概率什么的）。 感知机模型 假设空间是定义在特征空间中的所...
分类：
其他好文 时间：
2015-03-11 16:48:56
阅读次数：
179
做为一种监督学习模型，支持向量机(Supprot Vector Machine)在机器学习领域内很重要。首先，SVM用来干什么？一句话将，就是分类(Classification)。比较简单的分类，比如线性分类、Logistic 回归等等，得到的分类结果未必是最优的。而SVM则旨在找到一个最优的分类器。从这个目的出发，SVM提出了Soft Margin，Support Vector等等看似很直观的概...
分类：
其他好文 时间：
2015-01-30 16:12:41
阅读次数：
160
感知机(Perceptron)的模型非常简单，就是学习如下一个线性分类器\begin{align*} f(\boldsymbol{x}) = sign(\boldsymbol{w}^\top \boldsymbol{x})\end{align*}为了表述方便，这里省略了截距$b$。 若某个样本...
分类：
其他好文 时间：
2015-01-28 06:12:55
阅读次数：
114
线性模型回顾
我们回顾一下之前的三种线性模型，它们的共同点是都要对输入的数据x做一个加权的分数s。
下图表示了这三种不同的线性模型的表示方式、误差函数和求解最小的Ein的方法。
这里可以看出，PLA算法这种线性分类模型，在求解Ein的时候是很困难的，相对而言，线性回归和logistic回归都有各自求解Ein的方法，那么我们能不能用这两种回归的计算方法来帮助...
分类：
其他好文 时间：
2015-01-13 21:34:53
阅读次数：
852
分类器分类器是一种计算机程序。他的设计目标是在通过学习后，可自动将数据分到已知类别。平面线性分类器一个简单的分类问题，如图有一些圆圈和一些正方形，如何找一条最优的直线将他们分开？我们可以找到很多种方法画出这条直线，但怎样的直线才是最优的呢？距离样本太近的直线不是最优的，因为这样的直线对噪声敏感度高，...
分类：
其他好文 时间：
2015-01-02 16:01:27
阅读次数：
2090
感知器（perceptron）1957年由Rosenblatt提出，是神经网络与支持向量机的基础。感知器是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面，属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面。...
分类：
其他好文 时间：
2014-12-11 20:53:03
阅读次数：
202
第二讲介绍了Perceptron Learning Algorithm (PLA)，是以后学习的基础。PLA是二元的线性分类器，类似于神经感受器，用于做是非题。1. PLA的假设函数：h(x) = sign(w'x)。 这里w'是列向量，x是行向量。x代表一个数据点，这个点可能包含了d个维度，即x....
分类：
其他好文 时间：
2014-12-11 13:55:09
阅读次数：
281
支持向量机基本上是最好的有监督学习算法，因其英文名为support vector machine，简称SVM。通俗来讲，它是一种二类分类模型，其基本模型定义为特征空间上的间隔最大的线性分类器，其学习策略便是间隔最大化，最终可转化为一个凸二次规划问题的求解。 本文详述SVM的理论基础，并通过Python实现了该算法。...
分类：
编程语言 时间：
2014-12-01 14:20:05
阅读次数：
279
生存？还是毁灭？——哈姆雷特可分？还是不可分？——支持向量机之前一直在讨论的线性分类器,器如其名（汗，这是什么说法啊），只能对线性可分的样本做处理。如果提供的样本线性不可分，结果很简单，线性分类器的求解程序会无限循环，永远也解不出来。这必然使得它的适用范围大大缩小，而它的很多优点我们实在不原意放弃，...
分类：
其他好文 时间：
2014-11-19 12:13:03
阅读次数：
273
