我们介绍了过拟合和欠拟合出现的原因以及解决方案；然后我们对正则化进行了详细的说明，其中重点讨论了L1、L2正则的特性，以及出现该特性的原因 ...
分类：
其他好文 时间：
2017-11-04 19:42:19
阅读次数：
131
过拟合原因 数据：数据不规范，数据量少，数据穿越，统计特征用到了未来的信息或者标签信息 算法：算法过于复杂 解决： 1、将数据规范化，处理缺失值，增加数据量，采样，添加噪声数据 2、正则化，控制模型复杂程度， 3、early stoping，减少迭代次数，减少树的深度， 4、学习率调大/小点、 5、 ...
分类：
编程语言 时间：
2017-11-04 15:00:56
阅读次数：
262
第八部分内容： 1.正则化Regularization 2.在线学习(Online Learning) 3.ML 经验 1.正则化Regularization 1.1通俗解释 引用知乎作者：刑无刀 解释之前，先说明这样做的目的：如果一个模型我们只打算对现有数据用一次就不再用了，那么正则化没必要了，因 ...
分类：
其他好文 时间：
2017-11-04 11:14:33
阅读次数：
169
一、纲要 纠正较大误差的方法 模型选择问题之目标函数阶数的选择 模型选择问题之正则化参数λ的选择 学习曲线 二、内容详述 1、纠正较大误差的方法 当我们运用训练好了的模型来做预测时，发现会有较大的误差，这时我们有哪些解决方法呢？ (1)获得更多的训练集 (2)减少特征的数量 (3)增加特征的数量 ( ...
分类：
其他好文 时间：
2017-10-25 16:40:22
阅读次数：
189
版权声明：本文为博主原创文章,转载请指明转载地址 一、纲要 欠拟合和过拟合 代价函数正则化 正则化线性回归 正则化逻辑回归 二、内容详述 1、欠拟合和过拟合 欠拟合，也叫高偏差，就是没有很好的拟合数据集的情况。如下图中的左图所示 过拟合，也叫高方差，就是虽然高阶多项式可以完美的拟合所有的数据，但会导 ...
分类：
其他好文 时间：
2017-10-22 23:42:46
阅读次数：
466
一、正则化的假设集合 通过从高次多项式的H退回到低次多项式的H来降低模型复杂度, 以降低过拟合的可能性, 如何退回? 通过加约束条件： 如果加了严格的约束条件, 没有必要从H10退回到H2, 直接使用H2就可以了。 加上松弛点的约束条件, 使得模型比H2复杂, 但到不了H10那么复杂。 二、权重衰减 ...
分类：
其他好文 时间：
2017-10-18 23:12:22
阅读次数：
305
L0-regularized prior based on intensity and gradient 基于强度（亮度？像素值大小）和梯度（强度与渐变？）的L0正则化先验。 图像先验源于观察文本图像的不同属性，基于这个先验，产生核估计的可靠中间结果。不需要检测突出边缘。在最后的图像恢复步骤，去除a ...
分类：
其他好文 时间：
2017-10-08 15:34:27
阅读次数：
157
一、普通的线性模型 二、加入正则化的模型 Ridge回归 Lasso回归 ...
分类：
其他好文 时间：
2017-10-05 20:56:10
阅读次数：
241
https://en.wikipedia.org/wiki/Ensemble_learning Stacking Stacking (sometimes called stacked generalization) involves training a learning algorithm to ...
分类：
其他好文 时间：
2017-09-29 12:39:53
阅读次数：
186
数据预处理的常用流程： 1）去除唯一属性 2）处理缺失值 3）属性编码 4）数据标准化、正则化 5）特征选择 6）主成分分析 （1）去除唯一属性 在获取的数据集中，经常会遇到唯一属性。这些属性通常是添加的一些di属性，如存放在数据库中自增的主键。这些属性并不能刻画样本自身的分布规律，所以只需要简单地 ...
分类：
编程语言 时间：
2017-09-29 00:38:11
阅读次数：
1370
