交叉验证：拟合的好，同时预测也要准确 我们以K折交叉验证（k-folded cross validation)来说明它的具体步骤。{A1,A2,A3,A4,A5,A6,A7,A8,A9} 为了简化，取k=10。在原始数据A的基础上，我们随机抽取一组观测，构成一个数据子集（容量固定）,记为A1A1 重 ...
分类：
其他好文 时间：
2016-06-26 16:48:32
阅读次数：
204
LIBSVM 数据格式需要 决策属性 条件属性a 条件属性b ... 2 1:7 2:5 ... 1 1:4 2:2 ... 数据格式转换 当数据较少时，可以用formatdatalibsvm轻松地将文本数据转换成为svm工具使用的数据。 使用方法为： 1，打开FormatDataLibsvm.xl ...
分类：
其他好文 时间：
2016-06-26 16:35:32
阅读次数：
393
近来，了解了一下SVM（支持向量机 support vector machine）的原理。顺便把自己理解的内容整理一下。 不讲背景啦，直接切入主题。 一、 什么是支持向量机 好比说，我们现在在一个平面上有许多的圈圈和叉叉，如图1.1所示。 图1.1 现在需要一条直线将圈圈和叉叉分开，可以想象，会有很 ...
分类：
其他好文 时间：
2016-06-25 09:30:46
阅读次数：
210
opencv学习笔记（七）SVM+HOG 一、简介 方向梯度直方图（Histogram of Oriented Gradient,HOG）特征是一种在计算机视觉和图像处理中用来进行物体检测的特征描述子。它通过计算和统计图像局部区域的梯度直方图来构成特征。Hog特征结合SVM分类器已经被广泛用于图像识 ...
分类：
其他好文 时间：
2016-06-24 12:43:38
阅读次数：
445
损失函数(loss function) = 误差部分(loss term) + 正则化部分(regularization term)
1. 误差部分
1.1 gold term,0-1损失函数,记录分类错误的次数
1.2 Hinge loss, 折叶损失,关于0的阀值
定义:E(z)=max(0,1-z)
应用: SVM中的最大化间隔分类,max-margin loss最大边界损...
分类：
其他好文 时间：
2016-06-21 07:56:01
阅读次数：
343
说明生成算法和判别算法之间的区别。判别算法主要包括：SVM，逻辑回归等；生成算法主要包括：朴素贝叶斯，HMM等...
分类：
其他好文 时间：
2016-06-21 07:09:53
阅读次数：
343
八、SVM的实现之SMO算法 终于到SVM的实现部分了。那么神奇和有效的东西还得回归到实现才可以展示其强大的功力。SVM有效而且存在很高效的训练算法，这也是工业界非常青睐SVM的原因。
也就是说找到一组αi可以满足上面的这些条件的就是该目标的一个最优解。所以我们的优化目标是找到一组最优的αi*。一旦求出这些αi*，就很容易计算出权重向量w*和b，并得到分隔超平面了。 这是个凸二次规...
分类：
编程语言 时间：
2016-06-21 06:54:59
阅读次数：
222
1.监督学习
回归算法通常用在监督学习中的学习算法，所以在讲回归之前，先来说说监督学习。
我们已经学习了很多的分类器设计方方法，如感知器、SVM等，他们的共同特点都是，根据给定的带有类别标签的样本，训练学习机器，然后使得机器能够对新来的无标签样本进行正确分类，像这种就属于监督模式识别，对学习机器来说就是监督学习。
举个栗子，就拿老师们讲课最喜欢用的预测房价的例子，图形表示监督学习的过程如下：...
分类：
其他好文 时间：
2016-06-17 17:22:37
阅读次数：
231
作者：杜客链接：https://zhuanlan.zhihu.com/p/20945670来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 SVM的损失函数定义如下： 举例：用一个例子演示公式是如何计算的。假设有3个分类，并且得到了分值。其中第一个类别是正确类别，即。同 ...
分类：
其他好文 时间：
2016-06-15 15:37:54
阅读次数：
964
