卷积神经网络是第一个被成功训练的多层神经网络结构,具有较强的容错、自学习及并行处理能力。 一、基本原理 1.CNN算法思想 卷积神经网络可以看作为前馈网络的特例,主要在网络结构上对前馈网络进行简化和改进,从理论上讲,反向传播算法可以用于训练卷积神经网络。卷积神经网络被广泛用于语音识别和图像分类等问题 ...
分类:
其他好文 时间:
2016-12-19 22:01:16
阅读次数:
1020
Logistic回归、传统多层神经网络1.1 线性回归、线性神经网络、Logistic/Softmax回归线性回归是用于数据拟合的常规手段,其任务是优化目标函数:h(θ)=θ...
分类:
其他好文 时间:
2016-12-12 20:22:33
阅读次数:
440
终于进入我们的主题了ConvNets或者CNNs,它的结构和普通神经网络都一样,之前我们学习的各种技巧方法都适用,其主要不同之处在于:
ConvNet假定输入的是图片,我们根据图片的特性对网络进行设定以达到提高效率,减少计算参数量的目的。
1. 结构总览
首先我们分析下传统神经网络对于图片的处理,如果还是用CIFAR-10上的图片,共3072个特征,如果普通网络结构输入那么第一层的每一个...
分类:
其他好文 时间:
2016-05-30 06:34:46
阅读次数:
388
这两天在学习人工神经网络,用传统神经网络结构做了一个识别手写数字的小项目作为练手。点滴收获与思考,想跟大家分享一下,欢迎指教,共同进步。
平常说的BP神经网络指传统的人工神经网络,相比于卷积神经网络(CNN)来说要简单些。
人工神经网络具有复杂模式和进行联想、推理记忆的功能, 它是解决某些传统方法所无法解决的问题的有力工具。目前, 它日益受到重视, 同时其他学科的发展, 为其提供了更大的机...
分类:
其他好文 时间:
2016-05-12 13:11:40
阅读次数:
851
樊恒徐俊等基于深度学习的人体行为识别J武汉大学学报2016414492-497
引言
行为识别整体流程
前景提取
行为识别过程
实验分析
芮挺等 基于深度卷积神经网络的行人检测 计算机工程与应用 2015
引言
卷积神经网络结构与特点
行人检测卷积神经网络结构
实验对比总结
张 阳 基于深信度网络分类算法的行人检测方法J 计算机应用研究 20163302总体来说大部分浏览下就行。樊恒,徐俊等.基于深...
分类:
其他好文 时间:
2016-05-10 07:08:40
阅读次数:
2286
13 Deep Learning13.1 Deep Neural Network 将神经网络的层数增大,即称为深度学习。深度学习一般在输入数据为row data的时候使用,因为这些数据很难人为构造出合适的特征。深度学习一般面临如下挑战:
(1)神经网络结构的决定:一般只能通过人的主观领域知识来决定神经网络结构,例如图像识别中的convolutional NNet,即认为相邻的像素才有必要连接...
分类:
Web程序 时间:
2016-05-07 08:44:28
阅读次数:
960
前言CNTK是微软开源的深度学习工具箱,主要在机器学习领域实现了各种神经网络结构的计算功能。而目前在自然语言处理领域上,深度计算等更是研究的主流方向,笔者将会在本文中,针对一些简单的语言模型概念进行讲解,并结合CNTK工具箱进行一些基础的实践工作。...
分类:
编程语言 时间:
2016-04-29 16:52:55
阅读次数:
797
推导和表示一篇文章的语义对于自然语言处理来说是个很基础也很重要的工作。推导文档语义可以用无监督的方法,也可以用有监督的方法。所谓“无监督的方法”。本文探讨了多层文档结构和单层文档结构神经网络的效果。...
分类:
其他好文 时间:
2016-03-31 23:38:26
阅读次数:
824
为何实现一个BP神经网络? “What I cannot create, I do not understand” — Richard Feynman, February 1988 实现一个BP神经网络的7个步骤 选择神经网络 结构 随机 初始化权重 实现 前向传播 实现 成本函数 $J(\Thet
分类:
其他好文 时间:
2016-03-06 20:56:53
阅读次数:
344
在前一节当中我们讨论了神经网络静态的部分:包括神经网络结构、神经元类型、数据部分、损失函数部分等。这个部分我们集中讲讲动态的部分,主要是训练的事情,集中在实际工程实践训练过程中要注意的一些点,如何找到最合适的参数。...
分类:
其他好文 时间:
2016-01-15 11:09:46
阅读次数:
236