正则化就是在J(w,b)中加上wi^2 J(w,b)表示的是整个模型在样本上的效果，J(w,b)越小，效果越好 深度学习也就是训练参数，是J变小、 现在拿L2型正则化来举个例子 我们知道，过拟合的原因是深度网络深度太深，节点太多，激活函数太复杂(非线性) 现在我的J在原来的基础上+ (w1 * w1 ...
分类：
其他好文 时间：
2018-02-22 23:53:35
阅读次数：
313
Preface 从 现场回来后，做了一些 的工作。主要是觉得RL是一个有意思的领域，而深度网络逼近对这个问题提供了良好的可预期的解决方案。本来想找些程序先做个参考，发现都是些打游戏场景；之前看textbook的时候，对 ( "Artificial Intelligence: A Modern App ...
分类：
Web程序 时间：
2018-01-18 11:42:35
阅读次数：
231
在学习深度网络框架的过程中，我们发现一个问题，就是如何输出各层网络参数，用于更好地理解，调试和优化网络？针对这个问题，TensorFlow开发了一个特别有用的可视化工具包：TensorBoard，既可以显示网络结构，又可以显示训练和测试过程中各层参数的变化情况。本博文分为四个部分，第一部分介绍相关函... ...
分类：
其他好文 时间：
2018-01-12 00:03:34
阅读次数：
623
Caffe | Deep Learning Framework是一个清晰而高效的深度学习框架，其作者是博士毕业于UC Berkeley的 Yangqing Jia，目前在Google工作。Caffe是纯粹的C++/CUDA架构，支持命令行、Python和MATLAB接口；可以在CPU和GPU直接无缝 ...
分类：
其他好文 时间：
2017-12-27 18:17:14
阅读次数：
261
训练深度网络模型OpenFace还不是运用faceNet的model作为训练模型，所以在准确性上比faceNet要低，如果你只是做一个简单的分类，建议你看看官网的demo3（http://cmusatyalab.github.io/openface/demo-3-classifier/），如果你想自 ...
分类：
其他好文 时间：
2017-11-30 16:16:50
阅读次数：
265
距离上一篇文章，正好两个星期。 这边文章9月15日 16：30 开始写。 可能几个小时后就写完了。用一句粗俗的话说， “当你怀孕的时候，别人都知道你怀孕了， 但不知道你被日了多少回 ” ，纪念这两周的熬夜，熬夜。 因为某些原因，文章发布的有点仓促，本来应该再整理实验和代码比较合适。文章都是两个主要作 ...
分类：
其他好文 时间：
2017-09-15 20:13:32
阅读次数：
289
12、深度学习的昨天、今天和明天（中文，期刊，2013年。知网） 记录了Hinton提出的两个重要观点：一是多隐层神经网络具有优异的特征学习能力，而是深度网络在训练上的难度可通过“逐层初始化”有效克服。具体描写叙述了及机器学习的两次浪潮：浅层学习和深度学习，并指出深度学习研发面临的重大问题，属于一篇 ...
分类：
其他好文 时间：
2017-07-28 22:21:59
阅读次数：
156
这篇文章构建了一个基本“Block”，并在此“Block”基础上引入了一个新的维度“cardinality”(字母“C”在图、表中表示这一维度)。深度网络的另外两个维度分别为depth（层数）、width（width指一个层的channel的数目）。 首先我们先了解一个这个“Block”是如何构建的 ...
分类：
Web程序 时间：
2017-06-10 16:58:06
阅读次数：
3208
Kaggle—So Easy!百行代码实现排名Top 5%的图像分类比赛作者：七月在线彭老师责编：翟惠良 JulyGithub: https://github.com/pengpaiSH/Kaggle...
分类：
其他好文 时间：
2017-05-11 13:31:19
阅读次数：
4268
与一般的机器学习不同的是，通过添加更多层以及向层内添加更多单元，深度网络可以表示复杂性不断增加的函数。给定足够大的模型（层数设计）和足够大的标注训练数据集，我们可以通过深度学习将输入向量映射到输出向量，完成大多数对人来说能够迅速处理的任务。 这一部分是描述参数化函数近似技术的核心，几乎所有现代实际应 ...
分类：
其他好文 时间：
2017-05-02 10:03:24
阅读次数：
308
