第八、神经网络:表述(Neural Networks: Representation) 8.1 非线性假设 8.2 神经元和大脑 8.3 模型表示1 8.4 模型表示2 8.5 样本和直观理解1 8.6 样本和直观理解II 8.7 多类分类 第4周 ===== 第八、神经网络:表述(Neural N ...
分类:
其他好文 时间:
2018-01-16 23:58:02
阅读次数:
398
当我们回到家,如果家里有异样,我们能够很快就会发现家中的异样,那是因为这些异常的摆设在我们的大脑中会产生较强的脑电波。 当我们听到某个单词,我们大脑中跟这个单词相关的神经元会异常兴奋,而同这个单词无关的神经元就不会有很大的刺激。 这个就是大脑中的激励函数。 有了激励函数,我们才会对外部的刺激产生非线 ...
分类:
其他好文 时间:
2018-01-12 11:29:42
阅读次数:
620
Rectifier(neural networks) 在人工神经网络中,rectfier(整流器,校正器)是一个激活函数,它的定义是:参数中为正的部分。 , 其中,x是神经元的输入。这也被称为ramp function(斜坡函数),类似于电气工程中半波整流。 由来: 2000年由Hahnloser ...
分类:
其他好文 时间:
2018-01-07 14:19:24
阅读次数:
1236
心理学研究什么《心理学与生活》 第一章 生活中的心理学 第二章 心理学的研究方法(实验与统计) 第三章 行为的生物学基础(神经元、动作电位、神经递质等等) 第四章 感觉(信号检测,如何感觉声音、色彩、温度等) 第五章 知觉(感觉的下一步、把歌声和唱歌的人视觉信息组合在一起;错觉, "贴吧" ) 第六 ...
分类:
其他好文 时间:
2018-01-02 18:45:19
阅读次数:
282
先上地址: http://playground.tensorflow.org 我试了一个最复杂的,螺旋形的。开始怎么训练都不行。后来我多加了几个神经元,居然能训练成功了。真是太牛逼了! ...
分类:
其他好文 时间:
2017-12-26 21:05:58
阅读次数:
149
1.梯度消失(vanishing gradient problem): 原因:例如三个隐层、单神经元网络: 假设上面是一个三层hidden layer的神经网络,每一层只有一个neuron,我们下面的分析仅仅针对bias,w也是可以类比的。 C是损失函数。 每一层的输入为z,输出为a,其中有z = ...
分类:
其他好文 时间:
2017-12-24 18:53:40
阅读次数:
315
softmax函数 softmax用于多分类过程中,它将多个神经元的输出,映射到(0,1)区间内,可以看成概率来理解,从而来进行多分类! 假设我们有一个数组,V,Vi表示V中的第i个元素,那么这个元素的softmax值就是 更形象的如下图表示: softmax直白来说就是将原来输出是3,1,-3通过 ...
分类:
其他好文 时间:
2017-12-21 21:43:25
阅读次数:
171
人工神经网络(ANN),简称神经网络,是一种模仿生物神经网络的结构和功能的数学模型或计算模型。神经网络由大量的人工神经元联结进行计算。大多数情况下人工神经网络能在外界信息的基础上改变内部结构,是一种自适应系统。现代神经网络是一种非线性统计性数据建模工具,常用来对输入和输出间复杂的关系进行建模,或用来 ...
分类:
编程语言 时间:
2017-12-21 19:34:20
阅读次数:
168
根据deeplearn.ai吴恩达深度学习课程3.11总结 因为如果W初始化为0 则对于任何Xi,每个隐藏层对应的每个神经元的输出都是相同的,这样即使梯度下降训练,无论训练多少次,这些神经元都是对称的,无论隐藏层内有多少个结点,都相当于在训练同一个函数。 ...
分类:
其他好文 时间:
2017-12-17 22:11:20
阅读次数:
142
What is deep learning? 在人工智能领域,有一个方法叫机器学习。在机器学习这个方法里,有一类算法叫神经网络。神经网络如下图所示: 上图中每个圆圈都是一个神经元,每条线表示神经元之间的连接。我们可以看到,上面的神经元被分成了多层,层与层之间的神经元有连接,而层内之间的神经元没有连接 ...
分类:
其他好文 时间:
2017-12-16 13:16:35
阅读次数:
204