1. visualizing higher-layer features of a deep network
本文提出了两种可视化方法。
1. 最大化activation
当训练完一个深层神经网络之后， 固定所有参数。 然后对于某一个神经元的activation进行梯度上升优化来寻找能使它的值最大化的input。 不断的用gradient ascent来更新一个初始化为random...
分类：
其他好文 时间：
2015-07-09 22:43:05
阅读次数：
219
Convolutional Neural Networks (CNNs / ConvNets)前面做了如此漫长的铺垫，现在终于来到了课程的重点。Convolutional Neural Networks， 简称CNN，与之前介绍的一般的神经网络类似，CNN同样是由可以学习的权值与偏移量构成，每一个神经元接收一些输入，做点积运算加上偏移量，然后选择性的通过一些非线性函数，整个网络最终还是表示成一个可导...
分类：
Web程序 时间：
2015-07-05 16:44:24
阅读次数：
665
Convolutional Neural Network 卷积神经网络是基于人工神经网络提出的。人工神经网络模拟人的神经系统，由一定数量的神经元构成。在一个监督学习问题中，有一组训练数据(xi,yi)(x_i,y_i)，x是样本，y是label，把它们输入人工神经网络，会得到一个非线性的分类超平面hw,b(x)h_{w,b}(x)，在这篇笔记中先梳理一下传统人工神经网络的基本概念，再基于传统人工神经...
分类：
其他好文 时间：
2015-07-05 15:04:01
阅读次数：
1102
1. 视觉系统的颜色感知 颜色是视觉系统对可见光的感知结果。可见光是波长在380 nm～780 nm之间的电磁波，我们看到的大多数光不是一种波长的光，而是由许多不同波长的光组合成的。(1).眼睛本质上是一个照相机。人的视网膜(human retina)通过神经元来感知外部世界的颜色，每个神经元或者....
分类：
其他好文 时间：
2015-06-24 22:18:21
阅读次数：
321
Setting up the data and the model前面我们介绍了一个神经元的模型，通过一个激励函数将高维的输入域权值的点积转化为一个单一的输出，而神经网络就是将神经元排列到每一层，形成一个网络结构，这种结构与我们之前介绍的线性模型不太一样，因此score function也需要重新定义，神经网络实现了一系列的线性映射与非线性映射，这一讲，我们主要介绍神经网络的数据预处理以及score...
分类：
Web程序 时间：
2015-06-24 16:23:40
阅读次数：
211
简要介绍OpenCV的人工神经网络是机器学习算法中的其中一种，使用的是多层感知器（Multi- Layer Perception，MLP），是常见的一种ANN算法。MLP算法一般包括三层，分别是一个输入层，一个输出层和一个或多个隐藏层的神经网络组成。每一层由一个或多个神经元互相连结。一个“神经元”的输出就可以是另一个“神经元”的输入。例如，下图是一个简单3层的神经元感知器：（3个输入，2个输出以及包...
分类：
其他好文 时间：
2015-06-23 18:09:15
阅读次数：
483
Modeling one neuron下面我们开始介绍神经网络，我们先从最简单的一个神经元的情况开始，一个简单的神经元包括输入，激励函数以及输出。如下图所示：一个神经元类似一个线性分类器，如果激励函数是sigmoid 函数(σ(x)=1/(1+e?x))(\sigma (x)=1/(1+e^{-x}))，那么σ(∑iwixi+b)\sigma(\sum_{i}w_{i}x_{i}+b)相当于是求该输...
分类：
Web程序 时间：
2015-06-22 14:57:36
阅读次数：
199
BP算法是一种最有效的多层神经网络学习方法，其主要特点是信号前向传递，而误差后向传播，通过不断调节网络权重值，使得网络的最终输出与期望输出尽可能接近，以达到训练的目的。一、多层神经网络结构及其描述 下图为一典型的多层神经网络。通常一个多层神经网络由L层神经元组成，其中：第1层称为输入层，最后一层（第...
分类：
其他好文 时间：
2015-06-21 00:47:45
阅读次数：
1160
ReLu(Rectified Linear Units)激活函数论文参考：Deep Sparse Rectifier Neural Networks(很有趣的一篇paper）起源：传统激活函数、脑神经元激活频率研究、稀疏激活性传统Sigmoid系激活函数传统神经网络中最常用的两个激活函数，Sigmo...
分类：
其他好文 时间：
2015-06-19 20:13:16
阅读次数：
81936
卷积神经网络起源：喵星人的视觉皮层1958 年，一群奇葩的神经科学家把电极插到喵星人的脑子里，去观察视觉皮层的活动。从而推断生物视觉系统是从物体的小部分入手，经过层层抽象，最后拼起来送入处理中心，减少物体判断的可疑性的。这种方法就与BP网络背道而驰。BP网络认为，大脑每个神经元都要感知物体的全部（全...
分类：
其他好文 时间：
2015-06-19 20:07:57
阅读次数：
271
