BP(backpropgationalgorithm ):后向传导算法,顾名思义就是从神经网络的输出(顶层)到输入(底层)进行求解。那么求解什么呢,求解的就是神经网络中的参数的导数,即参数梯度方向,从而就可以使用梯度下降等求解无约束问题(cost function的最值)的方法求得最终的参数。神经网络前向传播的过程比较简单,这里不做讲解(如果不了解,可以参看文献)。
1.问题分析
1.1 Co...
分类:
编程语言 时间:
2015-06-21 02:09:05
阅读次数:
248
CNN公式推导
1 前言
在看此blog之前,请确保已经看懂我的前两篇blog【深度学习笔记1(卷积神经网络)】和【BP算法与公式推导】。并且已经看过文献[1]的论文【Notes on Convolutional Neural Networks】。因为本文就是讲解文献[1]论文前部分公式的推导过程这里有一个假设,或许公式是错误的,如有好的理解请留言>。
2 CNN公式推导...
分类:
其他好文 时间:
2015-06-21 02:07:36
阅读次数:
4106
BP算法是一种最有效的多层神经网络学习方法,其主要特点是信号前向传递,而误差后向传播,通过不断调节网络权重值,使得网络的最终输出与期望输出尽可能接近,以达到训练的目的。一、多层神经网络结构及其描述 下图为一典型的多层神经网络。通常一个多层神经网络由L层神经元组成,其中:第1层称为输入层,最后一层(第...
分类:
其他好文 时间:
2015-06-21 00:47:45
阅读次数:
1160
http://wiki.openwrt.org/doc/howto/docker_openwrt_imagehttps://www.baidu.com/s?wd=lxc%20docker&rsv_spt=1&issp=1&f=3&rsv_bp=1&rsv_idx=2&ie=utf-8&tn=baid...
分类:
其他好文 时间:
2015-06-20 15:31:51
阅读次数:
114
卷积神经网络起源:喵星人的视觉皮层1958 年,一群奇葩的神经科学家把电极插到喵星人的脑子里,去观察视觉皮层的活动。从而推断生物视觉系统是从物体的小部分入手,经过层层抽象,最后拼起来送入处理中心,减少物体判断的可疑性的。这种方法就与BP网络背道而驰。BP网络认为,大脑每个神经元都要感知物体的全部(全...
分类:
其他好文 时间:
2015-06-19 20:07:57
阅读次数:
271
(段超越前缀用来改变默认的段寻址,通常内址寻址是数据段或者堆栈段。
但是可以在指令前加上段超越前缀,来访问其他段的数据。比如 di,si,bx 的段默认位是 ds,bp 默认为 ss。)
1.立即寻址方式:
操作数包含在指令中,跟在操作码后存在在代码段。
立即数寻址方式主要用来给寄存器和存储单元赋值,因此这种寻址方式不能用于单操作数指令;
若用于双操作数指令,也只能用于源操作数字...
分类:
其他好文 时间:
2015-06-17 23:24:54
阅读次数:
147
原文:https://www.baidu.com/s?wd=%23!%2Fbin%2Fbash&rsv_spt=1&issp=1&f=8&rsv_bp=0&rsv_idx=2&ie=utf-8&tn=site888_3_pg&rsv_enter=1&rsv_n=2&rsv_sug3=1#!/bin/...
分类:
其他好文 时间:
2015-06-17 19:59:06
阅读次数:
99
前段时间在网上看到的:http://www.baidu.com/s?wd=Hash%E7%A2%B0%E6%92%9E+++%E6%8B%92%E7%BB%9D%E6%9C%8D%E5%8A%A1%E6%BC%8F%E6%B4%9E+&rsv_spt=1&issp=1&rsv_bp=0&ie=utf...
分类:
其他好文 时间:
2015-06-17 15:15:46
阅读次数:
79
汇编语言基础(寄存器)
首先一个CPU 的结构一般包含运算器,控制器,寄存器,高速缓存,总线等等他们的功能简要来说就是:
1.运算器进行信息处理
2.寄存器进行信息处理
3.控制器控制个种器件进行工作
4.内部总线连接各种器件
不同的CPU ,寄存器的个数,结构是不相同的。8086有14个寄存器每一个都有一个名字:AX,BX,CX,DX,SI,DI,SP,BP,IP,CS,SS...
分类:
编程语言 时间:
2015-06-09 20:09:26
阅读次数:
205
以上仅给出了代码。具体BP实现原理及神经网络相关知识请见:神经网络和反向传播算法推导
首先是前向传播的计算:
输入:
首先为正整数 n、m、p、t,分别代表特征个数、训练样本个数、隐藏层神经元个数、输出
层神经元个数。其中(1
随后为 m 行,每行有 n+1 个整数。每行代表一个样本中的 n 个特征值 (x 1 , x 2 ,..., x n ) 与样本的
实际观测结果 y。特...
分类:
编程语言 时间:
2015-06-08 11:40:57
阅读次数:
145