1. Feedforward and cost function;2.Regularized cost function:3.Sigmoid gradientThe gradient for the sigmoid function can be computed as:where:4.Random...
分类：
Web程序 时间：
2015-06-29 19:42:52
阅读次数：
1812
从人人上转过来的 前言：本文翻译自deeplearning网站，主要综述了一些论文、算法已经工具箱。 ? 引言：神经网络（Neural?Network）与支持向量机（Support?Vector?Machines，SVM）是统计学习的代表方法。可以认...
分类：
其他好文 时间：
2015-06-29 10:19:47
阅读次数：
167
Growing Pains for Deep LearningAdvances in theory and computer hardware have allowed neural networks to become a core part of online services such as ...
DNN的背景
DNN，deep neural network，近几年机器学习算法中崛起的旗舰方法，作为分类精度最高、处理高维大数据的算法，挽救了机器学习在半个世纪里发展缓慢的颓势，也为人工智能新领域的拓展起着重要作用，来看看最近一些IT巨头在深度学习领域中的开展的工作。2012年，《纽约时报》报道的google Brian项目，引起广泛关注，这个项目由机器学习领域大师级人物吴恩达和大规模计算机系...
分类：
其他好文 时间：
2015-06-28 15:35:54
阅读次数：
2873
Learning前面，我们介绍了神经网络的构成，数据的预处理，权值的初始化等等。这一讲，我们将要介绍神经网络参数学习的过程。Gradient Checks梯度的运算，在理论上是简单的，但是在实际的应用中，却非常容易出错，梯度的运算常见的有如下两种形式：形式一：
df(x)dx=f(x+h)?f(x)h
\frac{df(x)}{dx}=\frac{f(x+h)-f(x)}{h}
hh是一个很小...
分类：
Web程序 时间：
2015-06-28 12:44:02
阅读次数：
224
A Statistical View of Deep Learning(IV): Recurrent Nets and Dynamical SystemsRecurrent neural networks (RNNs) are now established as one of the key to...
分类：
Web程序 时间：
2015-06-27 19:53:56
阅读次数：
161
A Statistical View of Deep Learning(II): Auto-encoders and Free EnergyWith the success ofdiscriminative modellingusing deep feedforward neural network...
分类：
Web程序 时间：
2015-06-27 19:53:14
阅读次数：
114
A Statistical View of DeepLearning (I): Recursive GLMsDeep learningand the use of deep neural networks [1] are now established as a key tool for pract...
分类：
其他好文 时间：
2015-06-27 19:47:09
阅读次数：
196
Why GEMM is at the heart of deeplearningI spend most of my time worrying about how to make deep learning with neural networks faster and more power ef...
分类：
其他好文 时间：
2015-06-27 19:38:50
阅读次数：
135
Handwritten digits recognition (0-9)Multi-class Logistic Regression1. Vectorizing Logistic Regression(1) Vectorizing the cost function(2) Vectorizing ...
分类：
Web程序 时间：
2015-06-26 12:48:04
阅读次数：
807
