深度学习在过去几年，由于卷积神经网络的特征提取能力让这个算法又火了一下，其实在很多年以前早就有所出现，但是由于深度学习的计算复杂度问题，一直没有被广泛应用。 一般的，卷积层的计算形式为： 其中、x分别表示当前卷积层中第j个特征、前一层的第i个特征；k表示当前层的第j个特征与前一层的第i个特征之间的卷 ...
分类：
编程语言 时间：
2016-08-06 01:45:17
阅读次数：
330
目的： 通过用Mlpconv层来替代传统的conv层，可以学习到更加抽象的特征。传统卷积层通过将前一层进行了线性组合，然后经过非线性激活得到(GLM)，作者认为传统卷积层的假设是基于特征的线性可分。而Mlpconv层使用多层感知机，是一个深层的网络结构，可以近似任何非线性的函数。在网络中高层的抽象特 ...
分类：
Web程序 时间：
2016-08-01 17:19:51
阅读次数：
217
如何在Caffe中配置每一个层的结构 最近刚在电脑上装好Caffe，由于神经网络中有不同的层结构，不同类型的层又有不同的参数，所有就根据Caffe官网的说明文档做了一个简单的总结。 1. Vision Layers 1.1 卷积层(Convolution) 类型：CONVOLUTION 例子 blo ...
分类：
其他好文 时间：
2016-07-25 00:15:50
阅读次数：
275
摘要：本文将详细解析深度神经网络识别图形图像的基本原理。针对卷积神经网络，本文将详细探讨网络中每一层在图像识别中的原理和作用，例如卷积层(convolutional layer)，采样层(pooling layer)，全连接层(hidden layer)，输出层(softmax output lay ...
分类：
其他好文 时间：
2016-07-11 23:53:50
阅读次数：
280
这是个06年的老文章了，但是很多地方还是值得看一看的. 一、概要 主要讲了CNN的Feedforward Pass和 Backpropagation Pass，关键是卷积层和polling层的BP推导讲解。 二、经典BP算法 前向传播需要注意的是数据归一化，对训练数据进行归一化到 0 均值和单位方差 ...
分类：
Web程序 时间：
2016-07-06 13:16:07
阅读次数：
240
卷积神经网络（Convolutional Neural Network）：属于分类器的一种，用神经网络从数据中训练参数，提取特征，卷积核尺寸事先确定，随机初始化，经过反馈调节，训练处不同的卷积核。 卷积层 （Convolutional Layer）：通过对上一层进行卷积操作，得到的下一层。 池化层（ ...
分类：
其他好文 时间：
2016-06-29 01:07:29
阅读次数：
529
继续上次的学习笔记，在RCNN之后是Fast RCNN，但是在Fast RCNN之前，我们先来看一个叫做SPPnet的网络架构。 一，SPP简介： 有一个事实需要说清楚：CNN的卷积层不需要固定尺寸的图像，全连接层是需要固定大小输入的，因此提出了SPP层放到卷积层的后面。SPPNet将任意大小的图像 ...
分类：
Web程序 时间：
2016-06-03 18:47:54
阅读次数：
167
Curriculum Learning of Multiple Tasks CVPR 2015 对于多任务的学习(Multi-Task Learning)像是属性识别等任务，之前都是每一个属性训练一个分类器，后来有了深度学习，大家都用共享卷积层的方式来联合的学习（Joint Learning）。让网 ...
分类：
其他好文 时间：
2016-05-06 19:29:45
阅读次数：
857
可视化结果分别从以下几个角度做分析：
1 看每个卷积层经过激活函数（relu）后的输出图像
第一个卷积层的结果（相对比较容易懂）：
为了方便人眼观察，对每一幅图的像素值都做了一个放大，做法是除以这幅图的最大像素值然后乘以255。灰度图中越亮的部分，就说明原来的值越大。注意，这样的做法导致，不同的图中比较像素点的相对亮度是没有意义的。
原图：...
分类：
其他好文 时间：
2016-04-29 16:00:44
阅读次数：
489
之前的博文中已经将卷积层、下采样层进行了分析，在这篇博文中我们对最后一个顶层层结构fully_connected_layer类（全连接层）进行分析： 一、卷积神经网路中的全连接层 在卷积神经网络中全连接层位于网络模型的最后部分，负责对网络最终输出的特征进行分类预测，得出分类结果： LeNet-5模型中的全连接层分为全连接和高斯连接，该层的最终输出结果即为预测标签，例如这里我们需要对MNIST...
分类：
编程语言 时间：
2016-03-16 09:44:01
阅读次数：
1074
