DeepLearningFaceRepresentationfromPredicting10,000Classes论文笔记(2015.03.24)一、基本思路 作者利用卷积神经网络(ConvolutionalNeuralNetwork，CNN)对大量样本进行训练，提取Deephiddenidenti...
分类：
其他好文 时间：
2015-03-28 11:30:07
阅读次数：
334
原始论文：http://www-personal.umich.edu/~ronxin/pdf/w2vexp.pdf
之前学习Word2vec时，脱离了神经网络，这周补充了下相关知识，打算之后再
看下源码，加深自己的理解。...
分类：
其他好文 时间：
2015-03-27 22:25:04
阅读次数：
468
这是Xiaogang Wang和Xiaoou Tang组的一篇technical report，作者是优秀的学弟Ziwei Liu。通常人脸识别里面先要对人脸图像进行检测和对齐，然后在相应的地方提取特征，但是在自然场景中，由于背景混乱，人脸检测和对齐会受到影响，进而影响特征提取和最后的识别效果。这篇...
分类：
其他好文 时间：
2015-03-17 23:13:39
阅读次数：
1271
Course Description Teaching Assistants Peng Qi Course Notes (updated each week)?Detailed Syllabus Class Time and Location Spring quarter (March - June, 2015). Lecture: Monday, Wednesday 11:00-12:...
分类：
其他好文 时间：
2015-03-17 16:07:25
阅读次数：
1021
本文是《Neural networks and deep learning》概览 中第三章的一部分，讲机器学习算法中，如何选取初始的超参数的值。（本文会不断补充）学习速率（learning rate，η）运用梯度下降算法进行优化时，权重的更新规则中，在梯度项前会乘以一个系数，这个系数就叫学习速率η。下面讨论在训练时选取η的策略。
固定的学习速率。如果学习速率太小，则会使收敛过慢，如果学习速率太大，则...
分类：
编程语言 时间：
2015-03-15 00:52:06
阅读次数：
1015
本文是《Neural networks and deep learning》概览 中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充）正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程，网络在training data上的error渐渐减小，但是在验证集上...
分类：
其他好文 时间：
2015-03-14 18:32:59
阅读次数：
63684
本文是《Neural networks and deep learning》概览 中第三章的一部分，讲machine learning算法中用得很多的交叉熵代价函数。1.从方差代价函数说起代价函数经常用方差代价函数（即采用均方误差MSE），比如对于一个神经元（单输入单输出，sigmoid函数）,定义其代价函数为： 其中y是我们期望的输出，a为神经元的实际输出【 a=σ(z), where z=wx+...
分类：
其他好文 时间：
2015-03-13 14:27:18
阅读次数：
293
最近阅读了《Neural networks and deep learning》这本书（online book，还没出版），算是读得比较仔细，前面几章涉及的内容比较简单，我着重看了第三章《Improving the way neural networks learn》，涉及深度神经网络优化和训练的各种技术，对第三章做了详细的笔记（同时参考了其他资料，以后读到其他相关的论文资料也会补充或更改），欢迎有...
分类：
Web程序 时间：
2015-03-12 13:21:17
阅读次数：
189
原作者：zouxy09原文链接：http://blog.csdn.net/zouxy09/article/details/9993371Deep Learning论文笔记之（四）CNN卷积神经网络推导和实现zouxy09@qq.comhttp://blog.csdn.net/zouxy09自己平时看...
分类：
其他好文 时间：
2015-03-10 21:19:19
阅读次数：
239
under review as a conference paper at ICLR 2015.Motivation：本文提出来一种regularization的方法，叫做FaMe (Factored Mean training). The proposed FaMe model aims to a...
分类：
Web程序 时间：
2015-03-10 18:58:58
阅读次数：
186
