1. 概述 卷积神经网络的特点：一方面它的神经元间的连接是非全连接的， 另一方面同一层中某些神经元之间的连接的权重是共享的（即相同的）。 上图左：图像有1000*1000个像素，有10^6个隐层神经元，进行全连接，有1000*1000*100000=10^12个权值参数 上图右：同样有1000*10 ...
分类：
其他好文 时间：
2016-09-13 19:11:55
阅读次数：
269
BP算法是关于误差的反向传播算法，就是从输出层开始，将结果与预期结果相比较，求出误差，然后按照梯度最大下降方向，调整神经元的联接权值，然后依次逐层调整各层之间的连接权值，对于批量学习方式而言，不断重复...
分类：
编程语言 时间：
2016-08-25 21:23:18
阅读次数：
303
直到50年代，perceptron算法被Frank Rosenblatt搞了出来。perceptron的想法和pitts的路子就不大一样，perceptron关注MC神经元(MCN)本身的，而不是神经元在大脑中存在的复杂拓扑，所以其中除了MCN以外，没有其他的生物学含义。 按照Pitts的证明，一个 ...
分类：
其他好文 时间：
2016-08-16 07:06:19
阅读次数：
214
经典的BP网络，其具体结构如下： 请特别注意上面这个图的一些符号说明如下： 二. 学习算法 1. 信号的前向传递过程 请特别注意上述公式中的下标，这里，权值矩阵包含了神经元节点本身的偏置，所以权值矩阵多了一列。 2. 误差反向传导过程 三. 小结 信号的前向传递和误差反向传递过程都可以用递归公式描述 ...
分类：
编程语言 时间：
2016-08-06 17:31:09
阅读次数：
181
2016年8月6日, 星期六 神经网络的性质与能力：非线性与线性，非线性是很重要的特性输入输出映射（映射真是个有趣的概念，比如矩阵也可以看作映射）自适应性（调整神经元的权值以适应环境变化，也就是自动调参）能够上下文信息容错性（可以理解为参数的冗余来保证正常工作）证据响应，不仅提供决策选择，也可以提供... ...
分类：
其他好文 时间：
2016-08-06 14:12:34
阅读次数：
122
1.卷积操作实质： 输入图像（input volume），在深度方向上由很多slice组成，对于其中一个slice，可以对应很多神经元，神经元的weight表现为卷积核的形式，即一个方形的滤波器（filter）（如3X3），这些神经元各自分别对应图像中的某一个局部区域（local region），用 ...
分类：
其他好文 时间：
2016-07-30 22:29:15
阅读次数：
215
读书笔记 周志华老师的《机器学习》 因为边看边记，所以写在随笔里，如果涉及版权问题，请您联系我立马删除，lvxia@mail.ustc.edu.cn 5.1 神经元模型 “神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。” 神经元 ...
分类：
其他好文 时间：
2016-07-21 23:49:06
阅读次数：
2586
最近在班主任的带领下，开始观看台湾大学林轩田教授的机器学习基石课程，虽然吧，台湾人，汉语说得蛮6，但是还是听着怪怪的，不过内容非常值得刚刚入门的机器学习小白学习，话不多说，直接进入正题。
1.基本介绍
（貌似这里一般是应该背景介绍，但是，历史吗，自己去百度吧）
（1）preceptron
翻译中文叫做感知器，如果你之前听说过神经网络的，它其实就是网络中的一个神经元，它自身的作用非常小，只能...
分类：
编程语言 时间：
2016-07-11 17:13:07
阅读次数：
599
转载自 ReLu(Rectified Linear Units)激活函数 论文参考：Deep Sparse Rectifier Neural Networks (很有趣的一篇paper） 起源：传统激活函数、脑神经元激活频率研究、稀疏激活性 传统Sigmoid系激活函数 传统神经网络中最常用的两个激... ...
分类：
其他好文 时间：
2016-07-06 00:20:56
阅读次数：
483
基本概念 卷积核：即滤波器，是一个n×n系数矩阵（n为奇数），作用是对输入图像提取某种特征，再将得到的特征输出到神经元。 在卷积网络中,隐层的参数个数只和滤波器的大小和滤波器种类的多少有关,和隐藏的神经元个数无关 隐层的神经元个数和原图像、滤波器的大小及滤波器在图像中滑动步长有关 ...
分类：
其他好文 时间：
2016-07-05 20:46:19
阅读次数：
196
