第三周 浅层神经网络 第 21 题 以下哪项是正确的？（选出所有正确项） A.$a^{ "2" }$是第12层，第2个训练数据的激活向量 B.$X$是一个矩阵，其中每个列是一个训练数据 C.$a^{[2]}_4$是第2层，第4个训练数据的激活输出 D.$a^{[2]}_4$是第2层，第4个神经元的激 ...
分类：
其他好文 时间：
2020-02-04 13:46:02
阅读次数：
216
How much position information do convolutional neural network encode? Intro 文章是ICML2020的一个工作，探究了CNN到底有没有编码位置信息，这些位置信息在哪些神经元中被编码、这些位置信息又是如何被暴露给神经网络学习的。 ...
分类：
Web程序 时间：
2020-02-04 10:46:40
阅读次数：
248
一、神经网络： 1.1非线性假设： 无论是线性回归还是逻辑回归都有这样一个缺点，即： 当特征太多时，计算的负荷会非常大 。 使用非线性的多项式项，能够帮助我们建立更好的分类模型 ，但与此同时他们的特征组合就有很多。普通的线性模型无法处理，就需要神经网络。 1.2模型表示1 每一个神经元都可以被认为是 ...
分类：
其他好文 时间：
2020-02-03 14:10:32
阅读次数：
93
1. 激活函数：激活函数是指在人工神经网络的神经元中，将输入映射到输出端的非线性函数。激活函数通常是非线性的，激活函数给神经元引入了非线性因素，使得神经网络可以任意逼近任何非线性函数，可以应用到非线性模型中。 一般进行线性操作后，就将线性操作的结果放入激活函数中映射。在CNN中，运算顺序通常是卷积 ...
分类：
其他好文 时间：
2020-01-30 19:25:52
阅读次数：
128
激活函数的作用 如果不用激活函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的线性组合。故而激活函数可以增加模型的表达能力。 1.sigmoid函数 sigmoid函数也叫 Logistic 函数，用于隐层神经元输出，取值范围为(0,1)，它可以将一个实数映射到(0,1)的 ...
分类：
其他好文 时间：
2020-01-16 12:20:31
阅读次数：
94
推荐好书：《神经网络与深度学习》邱锡鹏，适合我这种才入门的小白 ...
分类：
其他好文 时间：
2020-01-14 20:32:15
阅读次数：
74
介绍 卷积神经网络（Convolutional Neural Network，CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。 它包括卷积层(convolutional layer)和池化层(pooling layer)。 对比：卷积神经网络 ...
分类：
其他好文 时间：
2020-01-14 00:02:34
阅读次数：
107
“天赋论学说认为，人类思维是与生俱来的思想或知识。在这种理念中，最著名的是柏拉图的形式理论，以及后来的笛卡尔的《沉思录》。目前，这一观点正在获取神经科学方面的证据，以证实我们确实生来就对我们的世界有先天的认识”。 Figure 1: An elder Plato walks alongside Ar ...
分类：
其他好文 时间：
2020-01-13 13:12:10
阅读次数：
156
背景 在机器学习中经常会碰到“损失函数”,“成本函数”, 和“目标函数”。在学习中理解概念是至关重要的。 "todo" 解析 1、“损失函数”一般是指对 单个样本 的做的损失 $$ |y_i f(x_i)| $$ 2、“成本函数”一般是 数据集上 总的成本和损失 $$ 1/N\cdot\sum_{i ...
分类：
其他好文 时间：
2020-01-07 00:53:11
阅读次数：
132
一、Non linear Hypotheses 线性回归和逻辑回归在特征很多时，计算量会很大。 一个简单的三层神经网络模型： $$a_i^{(j)} = \text{"activation" of unit $i$ in layer $j$}$$$$\Theta^{(j)} = \text{matr ...
分类：
Web程序 时间：
2020-01-01 23:48:07
阅读次数：
110
