http://www.cnblogs.com/fengfenggirl/p/classsify_decision_tree.html 决策树是一种基本的分类和回归方法。优点是具有可读性，分类速度快，学习时，利用训练数据，根据损失函数最小化得原则建立决策树模型。 缺点是容易过拟合，对训练数据的分类能力
分类：
其他好文 时间：
2016-03-08 21:16:13
阅读次数：
250
欠拟合 过拟合 参数学习算法是一类具有固定数目的参数，用来进行数据拟合的算法。比如线性回归，有固定的参数集合θ。 非参数学习算法，局部加权回归
分类：
其他好文 时间：
2016-03-03 20:53:53
阅读次数：
246
作者：Edwin Jarvis 特征选择(排序)对于数据科学家、机器学习从业者来说非常重要。好的特征选择能够提升模型的性能，更能帮助我们理解数据的特点、底层结构，这对进一步改善模型、算法都有着重要作用。 特征选择主要有两个功能： 减少特征数量、降维，使模型泛化能力更强，减少过拟合 增强对特征和特征值
分类：
其他好文 时间：
2016-02-11 00:29:01
阅读次数：
474
同类数据具有一定的统计规律性。随机变量->数据特征；概率分布->数据规律步骤如下： 过拟合——学习时选择的模型所包含的参数过多，以至于出现这一模型对已知数据预测得很好，但对未知数据预测得很差的现象。M次多项式函数拟合问题泛化能力——指学习方法对未知数据的预测能力。 选择经验风险与模型复杂度同时较.....
分类：
其他好文 时间：
2015-12-29 12:31:27
阅读次数：
212
特征选择(排序)对于数据科学家、机器学习从业者来说非常重要。好的特征选择能够提升模型的性能，更能帮助我们理解数据的特点、底层结构，这对进一步改善模型、算法都有着重要作用。特征选择主要有两个功能：减少特征数量、降维，使模型泛化能力更强，减少过拟合增强对特征和特征值之间的理解拿到数据集，一个特征选择方法...
分类：
其他好文 时间：
2015-12-10 13:09:43
阅读次数：
187
原文：http://www.zhihu.com/question/2070082927 个回答46赞同反对，不会显示你的姓名ALAN Huang，什么都会一点点欣然、王志、马克等人赞同Orangeprince的回答非常学院派，也非常系统。 过拟合表现在训练数据上的误差非常小，而在测试数据上误差反而增...
分类：
其他好文 时间：
2015-11-28 13:25:47
阅读次数：
289
Poor Generalization这可能是实际中遇到的最多问题。比如FC网络为什么效果比CNN差那么多啊，是不是陷入局部最小值啊？是不是过拟合啊？是不是欠拟合啊？在操场跑步的时候，又从SVM角度思考了一下，我认为Poor Generalization属于过拟合范畴。与我的论文 [深度神经网络在面...
分类：
其他好文 时间：
2015-11-27 23:37:36
阅读次数：
555
一，C4.5算法是基于ID3算法的改进（优点） 对连续的数据也能处理 可以在决策树构造过程中进行剪枝，因为某些具有很少元素的结点可能会使构造的决策树过拟合（Overfitting），如果不考虑这些结点可能会更好 能够对不完整数据进行处理。 用信息增益率来进行属性选择的度量 二，算法流程 三，属性选择...
分类：
编程语言 时间：
2015-11-19 18:59:33
阅读次数：
288
1 过拟合过拟合就是训练模型的过程中，模型过度拟合训练数据，而不能很好的泛化到测试数据集上。出现over-fitting的原因是多方面的：1 训练数据过少，数据量与数据噪声是成反比的，少量数据导致噪声很大2 特征数目过多导致模型过于复杂，如下面的图所示：看上图中的多项式回归（Polynomial r...
分类：
其他好文 时间：
2015-11-14 16:17:54
阅读次数：
1250
原文地址：http://blog.csdn.net/abcjennifer/article/details/7716281本栏目（Machine learning）包括单参数的线性回归、多参数的线性回归、Octave Tutorial、Logistic Regression、Regularizati...
分类：
其他好文 时间：
2015-10-24 21:58:24
阅读次数：
793
