(本文是根据 "neuralnetworksanddeeplearning" 这本书的第三章 "Improving the way neural networks learn" 整理而成的读书笔记，根据个人口味做了删减) 上一章，我们介绍了神经网络容易出现的过拟合问题，并学习了最常用的正则化方法，以 ...
分类：
Web程序 时间：
2018-01-07 16:10:19
阅读次数：
254
TensorFlow L2正则化 L2正则化在机器学习和深度学习非常常用，在TensorFlow中使用L2正则化非常方便，仅需将下面的运算结果加到损失函数后面即可 ...
分类：
其他好文 时间：
2017-12-25 13:44:09
阅读次数：
248
SVM算法的学习策略就是间隔最大化，是求解凸二次规划的最优化算法，也等价于正则化的合页损失函数的最小化问题。 SVM适合中小规模的数据，预测时不能给出具体的概率结果 支持向量机包含三种模型：1、线性可分支持向量机； 2、线性支持向量机； 3、非线性支持向量机； SVM算法的优缺点： 优点：泛化错误率 ...
分类：
其他好文 时间：
2017-12-21 17:22:18
阅读次数：
151
所谓过拟合，就是当一个模型过于复杂后，它可以很好的处理训练数据的每一个数据，甚至包括其中的随机噪点。而没有总结训练数据中趋势。使得在应对未知数据时错误里一下变得很大。这明显不是我们要的结果。 我们想要的是在训练中，忽略噪点的干扰，总结整体趋势。在应对未知数据时也能保持训练时的正确率。 上图中第一种情 ...
分类：
其他好文 时间：
2017-12-18 18:56:09
阅读次数：
3896
最近在GitHub上学习了有关python实现常见机器学习算法 目录 一、线性回归 1、代价函数 2、梯度下降算法 3、均值归一化 4、最终运行结果 5、使用scikit-learn库中的线性模型实现 二、逻辑回归 1、代价函数 2、梯度 3、正则化 4、S型函数 5、映射为多项式 6、使用的优化方 ...
分类：
编程语言 时间：
2017-12-15 16:21:45
阅读次数：
322
【中文翻译】 4、你正在一个超市的自动退房亭工作, 并正在建设一个苹果, 香蕉和桔子分类器。假设您的分类器训练集误差是 0.5%, 并且验证集误差为7%。下面哪些是有希望改进分类器的？(检查所有适用的）（A,C） （A）增加正则化参数 lambda （B）降低正则化参数 lambda （C）获取更多 ...
分类：
Web程序 时间：
2017-12-14 23:50:06
阅读次数：
387
本文根据水库中蓄水标线(water level) 使用正则化的线性回归模型预 水流量(water flowing out of dam)，然后 debug 学习算法 以及 讨论偏差和方差对 该线性回归模型的影响。 ①可视化数据集 本作业的数据集分成三部分： ?训练集(training set)，样本 ...
分类：
移动开发 时间：
2017-12-13 02:15:03
阅读次数：
267
记录cousera上ng讲的deep learning课的笔记，第8课：Hyperparameter tuning, Batch Norm and softmax ...
分类：
其他好文 时间：
2017-11-22 00:50:00
阅读次数：
279
TensorFlow正则化经常被用于Deep-Learn中，泛化数据模型，解决过拟合问题。再深度学习网络只有在有足够大的数据集时才能产生惊人的学习效果。当数据量不够时，过拟合的问题就会经常发生。然而，只选取我们需要的数据量的模型，就会非常难以继续进行泛化和优化。所以正则化技术孕育而生~~~~~~~ ...
分类：
其他好文 时间：
2017-11-12 21:50:58
阅读次数：
344
作者：陶轻松链接：https://www.zhihu.com/question/20924039/answer/131421690来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 我尽量用通俗一点的话来解答一下楼主的问题， r(d)可以理解为有d的参数进行约束，或者 D ...
分类：
其他好文 时间：
2017-11-11 21:25:24
阅读次数：
183
