RNN,也就是Recurrent Neural Network,循环神经网络,是非线性动态系统,将序列映射到序列,主要参数有五个:[Whv, Whh, Woh, bh, bo, h0] ,典型的结构图如下:
解释一下上图:
和普通神经网络一样,RNN有输入层输出层和隐含层,不一样的是RNN在不同的时间t会有不同的状态,其中t-1时刻隐含层的输出会作用到t时刻的隐含层[Whv, ...
分类:
其他好文 时间:
2016-05-07 10:14:56
阅读次数:
232
12 Neural Network12.1 Motivation 在神经网络的节点上使用感知机,那我们可以把神经网络看作是通过不同感知机以及常数的线性组合得到一个新的特征,将新的特征加上一个常数再进行线性组合得到结果。其原理和aggregation类似,但是在神经网络中进行了多层级的aggregation。
从生物的角度来说神经网络模拟了人脑神经网络。12.2 Neural Network...
分类:
Web程序 时间:
2016-05-07 08:56:45
阅读次数:
227
13 Deep Learning13.1 Deep Neural Network 将神经网络的层数增大,即称为深度学习。深度学习一般在输入数据为row data的时候使用,因为这些数据很难人为构造出合适的特征。深度学习一般面临如下挑战:
(1)神经网络结构的决定:一般只能通过人的主观领域知识来决定神经网络结构,例如图像识别中的convolutional NNet,即认为相邻的像素才有必要连接...
分类:
Web程序 时间:
2016-05-07 08:44:28
阅读次数:
960
循环神经网络 作者:樱花猪 摘要: 本文为七月算法(julyedu.com)12月机器学习第二十次课在线笔记。 多层反馈RNN(Recurrent neural Network、循环神经网络)神经网络是一种节点定向连接成环的人工神经网络。这种网络的内部状态可以展示动态时序行为。不同于前馈神经网络的是... ...
分类:
其他好文 时间:
2016-05-06 19:19:43
阅读次数:
248
卷积神经网络作者:樱花猪摘要:本文为七月算法(julyedu.com)12月机器学习第十九次课在线笔记。卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。 引言:第十九和二... ...
分类:
其他好文 时间:
2016-05-06 19:00:50
阅读次数:
220
1.MDnet:learning multi-domain convolution neural networks for visual tracking
MDnet是vot2015的冠军paper,由韩国Postech的Bohyung Han发表,测试了代码,在多个benchMark上的测试结果都比较好,但是速度比较慢,1fps,下面就开始介绍这篇paper的整体思路。
...
分类:
其他好文 时间:
2016-05-06 15:56:29
阅读次数:
2766
ImageNet Classification with Deep Convolutional Neural Networks
Alex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton
摘要
我们训练了一个大型的深度卷积神经网络,来将在ImageNet LSVRC-2010大赛中的120万张高清图像分为1000个不同的类别。对测试数据...
分类:
Web程序 时间:
2016-05-06 15:47:07
阅读次数:
305
CHAPTER 1 Using neural nets to recognize handwritten digits The human visual system is one of the wonders of the world. Consider the following sequenc ...
分类:
Web程序 时间:
2016-05-01 19:01:38
阅读次数:
297
On the exercises and problems It's not uncommon for technical books to include an admonition from the author that readers must do the exercises and pr ...
分类:
Web程序 时间:
2016-04-30 19:36:33
阅读次数:
166
PERCEPTRON Perceptron is a simple two layer neural network with several neurons in input layer, and one or more neurons in output layer. All neurons u ...
分类:
其他好文 时间:
2016-04-30 18:20:22
阅读次数:
2064