CNN卷积神经网络关键点: {1} 非全连接的网络(稀疏网络),相比于BP神经网络(全连接的网络),当然CNN也可以有一部分层是全连接层。 {2} 权重共享(权重系数相同),也即是卷积核相同(与位置无关),1个卷积核。1个卷积核对应一个特征映射,进行一种特征提取,得到 一个特征提取图,当然一层可以布 ...
分类:
其他好文 时间:
2016-04-21 16:40:45
阅读次数:
207
深度学习(DeepLearning)尤其是卷积神经网络(CNN)作为近几年来模式识别中的研究重点,受到人们越来越多的关注,相关的参考文献也是层出不穷,连续几年都占据了CVPR的半壁江山,但是万变不离其宗,那些在深度学习发展过程中起到至关重要的推动作用的经典文献依然值得回味,这里依据时间线索,对CNN发展过程中出现的一些经典文献稍作总结,方便大家在研究CNN时追本溯源,在汲取最新成果的同时不忘经典。...
分类:
其他好文 时间:
2016-04-11 08:55:53
阅读次数:
1301
SparkNet: Training Deep Network in Spark
这篇论文是 Berkeley 大学 Michael I. Jordan 组的 ICLR2016(under review) 的最新论文,有兴趣可以看看原文和源码:paper,github
.
训练深度神经网络是一个非常耗时的过程,比如用卷积神经网络去训练一个目标识别任务需要好几天来训练。因...
分类:
其他好文 时间:
2016-04-10 14:33:33
阅读次数:
321
要做卷积神经网络的一些东西,所以要装theano,网上很多Theano安装教程版本较老,而各安装包更新很快,参考价值有限。走了很多弯路才装好,把这个过程记录下来,希望对大家有帮助~ ~ 我的配置:win7,32位(64和32位安装步骤没差,下安装包版本有差而已),vs2012 首先推荐一篇英文安装指 ...
最近由于在准备论文的相关事宜,导致博客的更新速度有点缓慢,望大家见谅。不过该更新还是要更新的,所以今天我就挤出一点时间来更新一篇。由于之前的博文已经将tiny_cnn中相关的网络层结构介绍的差不多,接下来的博文中着重介绍卷积神经网络的训练流程和测试流程,重点就是前向传播算法和反向传播算法。不过我在研究CNN前向传播算法的流程时,发现作者在前向传播算法的调用过程中,很好的体现了C++的多态性特点,考...
分类:
编程语言 时间:
2016-04-02 10:50:30
阅读次数:
258
最近在学习卷积神经网络,哎,真的是一头雾水!最后决定从阅读CNN程序下手!
程序来源于GitHub的DeepLearnToolbox
由于确实缺乏理论基础,所以,先从程序的数据流入手,虽然对高手来讲,这样有点太小儿科了,但觉得对于个人理解CNN网络的结构和数据流走向有较大帮助!
下面,将要分析CNN的前向传播算法cnnff.m
本程序所用的神经网络的结构如下图的结构体net所示...
分类:
编程语言 时间:
2016-04-01 18:20:24
阅读次数:
344
1. 概述 卷积神经网络是一种特殊的深层的神经网络模型,它的特殊性体现在两个方面,一方面它的神经元间的连接是非全连接的, 另一方面同一层中某些神经元之间的连接的权重是共享的(即相同的)。它的非全连接和权值共享的网络结构使之更类似于生物 神经网络,降低了网络模型的复杂度(对于很难学习的深层结构来说,这 ...
分类:
其他好文 时间:
2016-03-31 23:25:40
阅读次数:
353
前言 从理解卷积神经到实现它,前后花了一个月时间,现在也还有一些地方没有理解透彻,CNN还是有一定难度的,不是看哪个的博客和一两篇论文就明白了,主要还是靠自己去专研,阅读推荐列表在末尾的参考文献。目前实现的CNN在MINIT数据集上效果还不错,但是还有一些bug,因为最近比较忙,先把之前做的总结一下 ...
分类:
编程语言 时间:
2016-03-31 23:05:07
阅读次数:
176
一、前言 这篇卷积神经网络是前面介绍的多层神经网络的进一步深入,它将深度学习的思想引入到了神经网络当中,通过卷积运算来由浅入深的提取图像的不同层次的特征,而利用神经网络的训练过程让整个网络自动调节卷积核的参数,从而无监督的产生了最适合的分类特征。这个概括可能有点抽象,我尽量在下面描述细致一些,但如果 ...
分类:
其他好文 时间:
2016-03-31 23:04:47
阅读次数:
344