em，是一种含有隐含变量的概率模型参数的极大似然估计法。主要应用在机器学习以及计算机视觉的数据聚类领域。 lr，逻辑回归，本质也是线性回归，通过拟合拟合样本的某个曲线，然后使用逻辑函数进行区间缩放，但是一般用来分类，主要用在点击率预估、推荐系统等；svm，支撑向量机，通过找到样本空间中的一个超平面， ...
分类：
编程语言 时间：
2017-04-06 22:11:28
阅读次数：
197
注：代价函数（有的地方也叫损失函数，Loss Function）在机器学习中的每一种算法中都很重要，因为训练模型的过程就是优化代价函数的过程，代价函数对每个参数的偏导数就是梯度下降中提到的梯度，防止过拟合时添加的正则化项也是加在代价函数后面的。在学习相关算法的过程中，对代价函数的理解也在不断的加深， ...
分类：
其他好文 时间：
2017-04-01 20:23:03
阅读次数：
396
随机森林有什么优点，如： a. 对于很多数据集表现良好，精确度比较高； b. 不容易过拟合； c. 可以得到变量的重要性排序； d. 既能处理离散型数据，也能处理连续型数据，且不需要进行归一化处理； （美团被深入问到） e. 能够很好的处理缺失数据； f. 容易并行化 关于材料再说句题外话，我之前是 ...
分类：
其他好文 时间：
2017-04-01 01:34:06
阅读次数：
377
通常说的SVM与逻辑回归的联系一般指的是软间隔的SVM与逻辑回归之间的关系，硬间隔的SVM应该是与感知机模型的区别和联系。而且工程中也不能要求所有的点都正确分类，训练数据中噪声的存在使得完全正确分类很可能造成过拟合。 软间隔SVM与逻辑回归的联系 要说软间隔SVM与联系就要看软间隔SVM的缘由。 软 ...
分类：
其他好文 时间：
2017-03-31 18:08:49
阅读次数：
255
在训练图像识别的深度神经网络时，使用大量更多的训练数据，可能会使网络得到更好的性能，例如提高网络的分类准确率，防止过拟合等。获取更多的训练样本其实是很好的想法。不幸的是，这个方法的代价很大，在实践中常常是很难达到的。不过还有一种方法能够获得类似的效果，那就是人为扩展训练数据（Artificially ...
分类：
其他好文 时间：
2017-03-17 17:39:59
阅读次数：
368
一、什么是OverFitting 我们说一个模型，他可以非常完美的拟合既定的训练数据，也就是代价（损失）函数，但是对于新的数据，却不能很好的拟合，也就是不适应于泛化，这样我们就称模型过拟合(over fitting)，如下图第三个图所示。此外，还有欠拟合(under fitting)，也就是连训练数... ...
分类：
其他好文 时间：
2017-03-17 00:31:39
阅读次数：
225
0，介绍 通过前面的特征分析，我们已经得到的想要的训练集和测试集，这样我们就可以利用这些训练集训练模型，并通过模型对测试集进行预测。我们得到的训练集和测试集结构如下所示。 1，几种基本模型 这里用的是sklearn库和xgboost，结果如下所示，需要注意的是为了防止过拟合，在这里我们对训练集进行划 ...
分类：
其他好文 时间：
2017-03-10 21:01:32
阅读次数：
1112
http://blog.csdn.net/pipisorry/article/details/60776803单决策树C4.5由于功能太简单，并且非常容易出现过拟合的现象，于是引申出了许多变种决策树，...
分类：
其他好文 时间：
2017-03-08 19:36:39
阅读次数：
4616
继上一篇得到的初步数据，我们基本上已经得到了用于分类的数据了。接下来可以考虑建模了，建模可以有多种方法那么评估模型的最简单粗暴的方法就是匹配准确率。但是这次的评分规则是： 简单说下赛方为什么不用匹配准确率来评价模型，本身数据结构中“没得助学金”的个体已经占了85%左右的比例，如果计算整体的匹配率对好 ...
分类：
其他好文 时间：
2017-02-28 19:41:46
阅读次数：
373
机器学习中的过拟合问题 相关内容： 1、 R语言︱ROC曲线——分类器的性能表现评价 2、机器学习中的过拟合问题 3、R语言︱机器学习模型评估方案（以随机森林算法为例） —————————————————————————— 过拟合问题举例 右图在训练数据上拟合完美，但是预测第11个时候， 左图虽然拟 ...
分类：
其他好文 时间：
2017-02-19 18:04:41
阅读次数：
300
