神经元 3B1B先讨论最简单的MLP（多层感知器），只是经典的原版，就已经能识别手写数字。 这里一开始我们把神经元看作装有数字的容器，装着一个0~1之间的数字。但是最后更准确一些，我们把神经元看作一个函数，它输入的是上一层所有神经元的输出。 手写数字识别示例 看下面这个手写数字的例子 这个神经网络一 ...
分类：
其他好文 时间：
2019-01-29 18:03:37
阅读次数：
269
转自https://blog.csdn.net/guoyunfei20/article/details/78283043 神经网络中梯度不稳定的根本原因：在于前层上的梯度的计算来自于后层上梯度的乘积（链式法则）。当层数很多时，就容易出现不稳定。下边3个隐含层为例： 其b1的梯度为： 加入激活函数为s ...
分类：
其他好文 时间：
2019-01-29 12:00:26
阅读次数：
227
我很佩服你的计算方法的优雅; 在真正数学的马匹上穿越这些领域一定很好，而我们这样的人必须徒劳无功地走上这条路。 艾尔伯特爱因斯坦 卷积神经网络的结果 & 8195;& 8195;早些时候，我们提到最近使用卷积神经网络的计算机视觉突破。在我们继续之前，我想简要地讨论一下这些结果作为动机。 & 8195 ...
分类：
其他好文 时间：
2019-01-25 12:54:39
阅读次数：
150
1.人工神经元模型 神经元信息处理过程的简化概况： 1.每个神经元都是一个多输入单输出的信息处理单元 2.神经元输入分为兴奋性输入和抑制性输入两种类型(即有正负) 3.神经元具有空间整合性和阈值特性 4.神经元输入与输出间有固定的时滞，主要取决于突触延搁 5.忽略时间整合作用和不应期 6.神经元本身 ...
分类：
其他好文 时间：
2019-01-21 00:31:41
阅读次数：
180
卷积神经网络(Convolutional Neural Network, CNN)是深度学习技术中极具代表的网络结构之一，在图像处理领域取得了很大的成功，在国际标准的ImageNet数据集上，许多成功的模型都是基于CNN的。CNN相较于传统的图像处理算法的优点之一在于，避免了对图像复杂的前期预处理过 ...
分类：
其他好文 时间：
2019-01-18 12:28:55
阅读次数：
206
神经网络基础与人工神经网络 神经网络方面的研究很早就已出现，今天“神经网络”已是一个相当大的、多学科交叉的学科领域。神经网络中最基本的成分是神经元模型。 上图中每个圆圈都是一个神经元，每条线表示神经元之间的连接。我们可以看到，上面的神经元被分成了多层，层与层之间的神经元有连接，而层内之间的神经元没有 ...
分类：
其他好文 时间：
2019-01-16 20:40:06
阅读次数：
233
1.引子 1958年，计算科学家Rosenblatt提出了由两层神经元组成的神经网络。他给它起了一个名字--“感知器”（Perceptron）（有的文献翻译成“感知机”，下文统一用“感知器”来指代）。 感知器是当时首个可以学习的人工神经网络。Rosenblatt现场演示了其学习识别简单图像的过程，在 ...
分类：
其他好文 时间：
2019-01-12 21:45:03
阅读次数：
174
1.引子 对于神经元的研究由来已久，1904年生物学家就已经知晓了神经元的组成结构。 一个神经元通常具有多个树突，主要用来接受传入信息；而轴突只有一条，轴突尾端有许多轴突末梢可以给其他多个神经元传递信息。轴突末梢跟其他神经元的树突产生连接，从而传递信号。这个连接的位置在生物学上叫做“突触”。 人脑中 ...
分类：
其他好文 时间：
2019-01-12 19:02:20
阅读次数：
307
让我们来看一个经典的神经网络。这是一个包含三个层次的神经网络。红色的是输入层，绿色的是输出层，紫色的是中间层（也叫隐藏层）。输入层有3个输入单元，隐藏层有4个单元，输出层有2个单元。后文中，我们统一使用这种颜色来表达神经网络的结构。 在开始介绍前，有一些知识可以先记在心里： 除了从左到右的形式表达的 ...
分类：
其他好文 时间：
2019-01-12 19:01:40
阅读次数：
164
1.S 型神经元和感知器类似，但是被修改为权重和偏置的微小改动只引起输出的微小变化 2.S型神经元结构： S型函数： 带有x1，x2，........，权重w1，w2.....，和偏置b的S型神经元的输出是： sigmoid函数图像 ...
分类：
其他好文 时间：
2019-01-11 23:19:55
阅读次数：
270
