Setting up the data and the model前面我们介绍了一个神经元的模型，通过一个激励函数将高维的输入域权值的点积转化为一个单一的输出，而神经网络就是将神经元排列到每一层，形成一个网络结构，这种结构与我们之前介绍的线性模型不太一样，因此score function也需要重新定义，神经网络实现了一系列的线性映射与非线性映射，这一讲，我们主要介绍神经网络的数据预处理以及score...
分类：
Web程序 时间：
2015-06-24 16:23:40
阅读次数：
211
NEURAL NETWORKS, PART 2: THE NEURONA neuron is a very basic classifier. It takes a number of input signals (a feature vector) and outputs a single val...
分类：
Web程序 时间：
2015-06-23 20:02:59
阅读次数：
196
NEURAL NETWORKS, PART 1: BACKGROUNDArtificial neural networks (NN for short) are practical, elegant, and mathematically fascinating models for machine...
分类：
Web程序 时间：
2015-06-23 20:01:55
阅读次数：
165
NEURAL NETWORKS, PART 3: THE NETWORKWe have learned about individual neurons in theprevious section, now it’s time to put them together to form an act...
分类：
Web程序 时间：
2015-06-23 20:01:12
阅读次数：
175
Modeling one neuron下面我们开始介绍神经网络，我们先从最简单的一个神经元的情况开始，一个简单的神经元包括输入，激励函数以及输出。如下图所示：一个神经元类似一个线性分类器，如果激励函数是sigmoid 函数(σ(x)=1/(1+e?x))(\sigma (x)=1/(1+e^{-x}))，那么σ(∑iwixi+b)\sigma(\sum_{i}w_{i}x_{i}+b)相当于是求该输...
分类：
Web程序 时间：
2015-06-22 14:57:36
阅读次数：
199
《Brief History of Machine Learning》 介绍:这是一篇介绍机器学习历史的文章，介绍很全面，从感知机、神经网络、决策树、SVM、Adaboost 到随机森林、Deep Learning.《Deep Learning in Neural Networks: An Ove....
分类：
系统相关 时间：
2015-06-21 18:26:21
阅读次数：
382
CNN公式推导
1 前言
在看此blog之前，请确保已经看懂我的前两篇blog【深度学习笔记1(卷积神经网络)】和【BP算法与公式推导】。并且已经看过文献[1]的论文【Notes on Convolutional Neural Networks】。因为本文就是讲解文献[1]论文前部分公式的推导过程这里有一个假设，或许公式是错误的，如有好的理解请留言>。
2 CNN公式推导...
分类：
其他好文 时间：
2015-06-21 02:07:36
阅读次数：
4106
Gradient Computing前面我们介绍过分类器模型一般包含两大部分，一部分是score function，将输入的原始数据映射到每一类的score，另外一个重要组成部分是loss function，计算预测值
与实际值之间的误差，具体地，给定一个线性分类函数：f(xi;W)=Wxif(x_{i};W)=Wx_{i}，我们定义如下的loss function：
L=1N∑i∑j≠yi[m...
分类：
Web程序 时间：
2015-06-20 15:42:46
阅读次数：
182
ReLu(Rectified Linear Units)激活函数论文参考：Deep Sparse Rectifier Neural Networks(很有趣的一篇paper）起源：传统激活函数、脑神经元激活频率研究、稀疏激活性传统Sigmoid系激活函数传统神经网络中最常用的两个激活函数，Sigmo...
分类：
其他好文 时间：
2015-06-19 20:13:16
阅读次数：
81936
ImageNetClassificationwithDeepConvolutionalNeuralNetworks阅读笔记（决定以后每读一篇论文，都将笔记记录于博客上。）这篇发表于NIPS2012的文章，是Hinton与其学生为了回应别人对于deep learning的质疑而将deep learni...
分类：
Web程序 时间：
2015-06-19 13:20:19
阅读次数：
185
