注：这篇文章主要参考Alex Graves的博士论文《Supervised Sequence Labelling with Recurrent Neural Networks》 详细介绍其关于BP算法...
分类：
编程语言 时间：
2016-10-30 17:12:18
阅读次数：
4337
BP算法公式推导，这几天花了不少时间在算法的公式推导上，只有清楚了原理才能更好地利用BP算法去解决问题！
分类：
编程语言 时间：
2016-10-28 15:51:50
阅读次数：
2174
深度｜神经网络和深度学习简史（第一部分）：从感知机到BP算法 2016-01-23 机器之心 来自Andrey Kurenkov 作者：Andrey Kurenkov 机器之心编译出品 参与：chenxiaoqing、范娜Fiona、杨超、微胖、汪汪、赵巍 导读：这是《神经网络和深度学习简史》第一部 ...
分类：
编程语言 时间：
2016-10-10 01:58:35
阅读次数：
228
都觉得神经网络很牛逼，那我们从零来一发吧。 先温习一下NN： http://deeplearning.stanford.edu/wiki/index.php/Neural_Networks 再温习一下BP算法：http://deeplearning.stanford.edu/wiki/index.p ...
分类：
其他好文 时间：
2016-09-24 01:59:30
阅读次数：
222
1、前言 看完讲卷积神经网络基础讲得非常好的cs231后总感觉不过瘾，主要原因在于虽然知道了卷积神经网络的计算过程和基本结构，但还是无法透彻理解卷积神经网络的学习过程。于是找来了进阶的教材Notes on Convolutional Neural Networks，结果刚看到第2章教材对BP算法的回... ...
分类：
编程语言 时间：
2016-09-16 21:09:34
阅读次数：
1325
大家都清楚神经网络在上个世纪七八十年代是着实火过一回的，尤其是后向传播BP算法出来之后，但90年代后被SVM之类抢了风头，再后来大家更熟悉的是SVM、AdaBoost、随机森林、GBDT、LR、FTRL这些概念。究其原因，主要是神经网络很难解决训练的问题，比如梯度消失。当时的神经网络研究进入一个低潮... ...
分类：
其他好文 时间：
2016-08-30 13:38:16
阅读次数：
198
BP算法是关于误差的反向传播算法，就是从输出层开始，将结果与预期结果相比较，求出误差，然后按照梯度最大下降方向，调整神经元的联接权值，然后依次逐层调整各层之间的连接权值，对于批量学习方式而言，不断重复...
分类：
编程语言 时间：
2016-08-25 21:23:18
阅读次数：
303
BP理论部分参考：http://blog.csdn.net/itplus/article/details/11022243 参考http://www.cnblogs.com/ronny/p/ann_02.html#!comments，结合BP算法的理论部分，可以真正理解了ANN。 代码部分我加了部分 ...
分类：
编程语言 时间：
2016-08-14 19:02:24
阅读次数：
250
经典的BP网络，其具体结构如下： 请特别注意上面这个图的一些符号说明如下： 二. 学习算法 1. 信号的前向传递过程 请特别注意上述公式中的下标，这里，权值矩阵包含了神经元节点本身的偏置，所以权值矩阵多了一列。 2. 误差反向传导过程 三. 小结 信号的前向传递和误差反向传递过程都可以用递归公式描述 ...
分类：
编程语言 时间：
2016-08-06 17:31:09
阅读次数：
181
这是个06年的老文章了，但是很多地方还是值得看一看的. 一、概要 主要讲了CNN的Feedforward Pass和 Backpropagation Pass，关键是卷积层和polling层的BP推导讲解。 二、经典BP算法 前向传播需要注意的是数据归一化，对训练数据进行归一化到 0 均值和单位方差 ...
分类：
Web程序 时间：
2016-07-06 13:16:07
阅读次数：
240
