git：https://github.com/linyi0604/MachineLearning 通过比较 经过正则化的模型 泛化能力明显的更好啦 ...
分类：
编程语言 时间：
2018-05-06 20:37:29
阅读次数：
311
在深度学习章节里，已经介绍了批量归一化的概念，详情请点击这里：第九节，改善深层神经网络：超参数调试、正则化以优化(下) 由于在深层网络中，不同层的分布都不一样，会导致训练时出现饱和的问题。而批量归一化就是为了缓解这个问题提出的。而且在实际应用中，批量归一化的收敛非常快，并且具有很强的泛化能力，某种情 ...
分类：
其他好文 时间：
2018-05-06 01:37:08
阅读次数：
3572
前言： 这是一篇记录渣本学习机器学习过程的随笔。 正文： 支持向量机(SVM)是一组用于分类， 回归和异常值检测的监督学习方法。 在分类问题中，SVM就是要找到一个同时离各个类别尽可能远的决策边界即最大化margin（margin为图中2虚线的距离）。这种尽可能远的思想能够提高模型的泛化能力。 虚线 ...
分类：
其他好文 时间：
2018-04-29 14:36:54
阅读次数：
353
（草稿） Random Forest的随机性表现在哪里。 第一，是选择训练样本的随机性，又放回的 第二，是选择树节点特征的随机性。在n个特征中选择nsub个子特征的最优，但是会增加树对样本的你和程度，但是会提高泛化能力，可采用交叉验证的方法确定合适的nsub。 https://www.cnblogs ...
分类：
其他好文 时间：
2018-04-24 00:25:00
阅读次数：
203
十、应用机器学习的建议 10.1 决定下一步做什么 很多时候我们会发现我们通过最小化代价函数获得的模型所预测的值和真实值有很大的偏差(其实就是泛化能力差)，此时我们可以在训练完之后对我们的模型进行诊断测试。测试模型的有效性 10.2 评估一个hypothe假设 一个好的hypothesis是即要代价 ...
分类：
其他好文 时间：
2018-04-15 16:20:20
阅读次数：
358
sklearn集成方法 集成方法的目的是结合一些基于某些算法训练得到的基学习器来改进其泛化能力和鲁棒性(相对单个的基学习器而言)主流的两种做法分别是： bagging 基本思想 独立的训练一些基学习器(一般倾向于强大而复杂的模型比如完全生长的决策树)，然后综合他们的预测结果，通常集成模型的效果会优于 ...
分类：
其他好文 时间：
2018-04-14 11:15:59
阅读次数：
1020
以下关于决策树的内容来自网络，都是非常通俗易懂的。 一.GBDT简介 GBDT(Gradient Boosting Decision Tree) 是一种迭代的决策树算法，该算法由多棵决策树组成，所有树的结论累加起来做最终结果。它在被提出之初就和SVM一起被认为是泛化能力（generalization ...
分类：
其他好文 时间：
2018-04-03 15:27:48
阅读次数：
283
随机森林 对数据样本及特征随机抽取，进行多个决策树训练，防止过拟合，提高泛化能力 <!--5f39ae17-8c62-4a45-bc43-b32064c9388a:W3siYmxvY2tUeXBlIjoicGFyYWdyYXBoIiwic3R5bGVzIjp7ImFsaWduIjoibGVmdCIs ...
分类：
其他好文 时间：
2018-04-01 16:04:17
阅读次数：
5176
Author 和PointNet是同一批作者，这是对PointNet的一个改进版本 Abstract PointNet不能很好的捕捉由度量空间引入的局部结构，也就限制了它识别细粒度类别的能力以及对复杂场景的泛化能力 本文提出一个层级的神经网络递归地应用在嵌套划分的输入点云集。 通过探索度量空间的距离 ...
分类：
Web程序 时间：
2018-03-22 19:12:50
阅读次数：
360
定义 集成学习是一种机器学习范式，其中多个学习器被训练来解决相同的问题。 这与试图从训练数据中学习一个假设的普通机器学习方法相反，集成方法尝试构造一组假设并将它们结合使用。 一个集合包含一些通常被称为基础学习器的学习器。 一个集合的泛化能力通常比单个基础学习器的泛化能力强得多。 实际上，集成学习具有 ...
分类：
其他好文 时间：
2018-03-19 00:30:05
阅读次数：
230
