神经网络 一些神经元的输出会变成另外一些神经元的输入，一般以层来组织，最常见的是全连接神经网络，其中两个相邻层中每一个层的所有神经元与另一个层的所有神经元相连，每个层内部的神经元不相连。 一般的，N层神经网络并不会把输入层算进去，因此一个一层的神经网络是指没有隐藏层，只有输入层和输出层的神经网络。L ...
分类：
其他好文 时间：
2019-10-22 18:11:54
阅读次数：
93
Reference Overfitting definition The reason of the overfiting How to avoid the overfitting Dropout： 就是让神经网络在前向传播的时候，让某个神经元的激活值以一定的概率P，让他停止工作，也就是将这个神经元 ...
分类：
其他好文 时间：
2019-10-22 15:40:10
阅读次数：
112
1、前馈神经网络 前馈神经网络描述的是网络的结构，是指每一层的神经元只接受前一层神经元的输入，并且输出到下一层。 2、BP神经网络 百度百科：BP神经网络是一种按照误差逆向传播算法训练的多层前馈神经网络。BP即Back Peopagation，就是常用的反向传播算法。 3、MLP MLP是多层感知机 ...
分类：
其他好文 时间：
2019-10-13 01:01:39
阅读次数：
101
一、使用logistic回归来进行车辆的识别 给一张灰度值的照片（50*50=2500像素），则二次特征值将会有约300万个，此时若使用logistic回归进行预测，计算量会很大。 二、神经网络算法 神经网络算法的出现是为了模拟大脑，下图为单一神经元的示意： 激活函数=非线性函数g(z) θ为模型的 ...
分类：
其他好文 时间：
2019-10-10 11:31:20
阅读次数：
137
tf.nn.rnn_cell.BasicLSTMCell(n_hidden, forget_bias=1.0, state_is_tuple=True): n_hidden表示神经元的个数，forget_bias就是LSTM们的忘记系数，如果等于1，就是不会忘记任何信息。如果等于0，就都忘记。sta ...
分类：
其他好文 时间：
2019-10-08 14:03:03
阅读次数：
78
全连接神经网络：也叫多层感知器模型 BP不是神经网络，是训练神经网络的一种方法。 人脑大约800亿个神经元组成，这些神经元由突触与其他神经元相互连接，交换电信号和化学信号，大脑通过神经元之间的协作完成各种功能。神经元之间的连接关系是通过进化、生长发育和后天刺激形成的。 人工神经网络： 受动物神经系统 ...
分类：
其他好文 时间：
2019-10-05 18:44:57
阅读次数：
101
感知机与神经元 感知机（Perceptron）由两层神经元组成（输入层、输出层），输入层接收外界输入信号后传递给输出层，输出层是M-P神经元，亦称“阈值逻辑单元”（threshold logic unit）。 输入层只接受输入而没有权重以及阈值，输出层的神经元有阈值，两层间连接有权重。 把阈值当做是 ...
分类：
其他好文 时间：
2019-10-04 16:41:06
阅读次数：
115
BP算法为深度学习中参数更新的重要角色，一般基于loss对参数的偏导进行更新。 一些根据均方误差，每层默认激活函数sigmoid（不同激活函数，则更新公式不一样） 假设网络如图所示： 则更新公式为： 以上列举了最后2层的参数更新方式，第一层的更新公式类似，即上一层的误差来自于下一层所有的神经元，e的 ...
分类：
编程语言 时间：
2019-10-01 22:30:28
阅读次数：
153
卷积神经网络，简称CNN，常用于视觉图像分析的深度学习的人工神经网络。形象地来说，这些网络结构就是由生物的神经元抽象拟合而成的。正如，每个生物神经元可以相互通信一般，CNN根据输入产生类似的通信输出。 若要论CNN的起源，那大概就是1980年代初了，随着最近技术的迅猛进步和计算能力的不断强大，CNN ...
分类：
其他好文 时间：
2019-09-30 09:50:04
阅读次数：
94
神经网络中还有一些激活函数，池化函数，正则化和归一化函数等。需要详细看看，啃一啃吧。。 1. 激活函数 1.1 激活函数作用 在生物的神经传导中，神经元接受多个神经的输入电位，当电位超过一定值时，该神经元激活，输出一个变换后的神经电位值。而在神经网络的设计中引入了这一概念，来增强神经网络的非线性能力 ...
分类：
其他好文 时间：
2019-09-26 23:30:51
阅读次数：
140
