【符号简介】 ———————————————————————— m——编码器的隐层神经元个数 n——输入序列词向量维度 p——解码器隐层神经元个数 q——输出序列词向量维度 v——词汇表大小 ———————————————————————— 【正文开始】 我们之前遇到的较为熟悉的序列问题，主要是利用 ...
分类：
其他好文 时间：
2019-12-30 00:12:17
阅读次数：
85
人的日常行为和习惯的联系:神经元时刻都在努力记忆我们的行为。 比如，学习时摸一次手机，神经元就会记住一次学习和摸手机的联系，重复使下一次行为更容易。于是，下次我们会更加地，在学习时想摸手机。 行为联系重复到一定程度，会形成模式，永久储存在我们的基底神经节里。这便是习惯。 就算我们后来改掉了习惯，一旦 ...
分类：
其他好文 时间：
2019-12-29 10:44:40
阅读次数：
68
多层感知机 上图所示的多层感知机中，输入和输出个数分别为4和3，中间的隐藏层中包含了5个隐藏单元（hidden unit）。由于输入层不涉及计算，图3.3中的多层感知机的层数为2。由图3.3可见，隐藏层中的神经元和输入层中各个输入完全连接，输出层中的神经元和隐藏层中的各个神经元也完全连接。因此，多层 ...
分类：
其他好文 时间：
2019-12-26 19:31:08
阅读次数：
116
神经元neuron（基本计算单元） xi为输入，wi为各项输入的权重，b为偏差，f为激活函数，h为输出。输入的加权和，经过激活函数映射为输出。参数的物理意义：权重（各输入的重要程度）偏差（该神经元被激活的难易程度≈阈值）激活函数：常见有sigmoid函数，tanh(双曲正切)函数，线性整流函数ReL... ...
分类：
其他好文 时间：
2019-12-17 22:39:20
阅读次数：
154
网络上深度学习相关博客教程质量参差不齐，很多细节很少有文章提到，所以本着夯实深度学习基础的想法写下此系列博文。本文会从神经网络的概述、不同框架的公式推导和对应的基于numpy的Python代码实现等方面进行干货的讲解。如有不懂之处欢迎在评论留言，本人也初学机器学习与深度学习不久，有不足之处也请欢迎我... ...
分类：
编程语言 时间：
2019-12-15 00:45:25
阅读次数：
114
1. xDeepFM优势 自动高效的学习隐式和显示的高维特征交互 设计一个新的CIN网络可以显示学习高阶特征交互，且为Vector-Wise 2. xDeepFM整体算法框架 整个网络结构主要分为两部分：压缩交互网络和DNN网络。压缩交互网络主要是实现自动学习显示的高阶特征交互，DNN网络主要是实现 ...
分类：
其他好文 时间：
2019-12-06 13:52:44
阅读次数：
100
1, 神经元（Neuron） y = f( w1*x1 + w2*x2 + ... + b) f is activation function Sigmoid function (两端饱和的函数) logistic function $\sigma(x) = \frac{1}{1+exp(-x)}$ ...
分类：
Web程序 时间：
2019-12-05 13:04:09
阅读次数：
101
CNN的发展历程： 1962年，卷积神经网络的研究起源于Hubel和Wiesel研究毛脑皮层的发现局部互连网络可以有效降低反馈神经网络的复杂性。 1980年，CNN的第一个实现网络：Fukushima为解决模式识别问题基于神经元间的局部连通性和图像的层次组织转而提出的新识别机。 1998年，第一个多 ...
分类：
其他好文 时间：
2019-11-29 23:59:10
阅读次数：
166
Pytorch中nn.Dropout2d的作用 首先，关于Dropout方法， "这篇博文" 有详细的介绍。简单来说, 我们在前向传播的时候，让某个神经元的激活值以一定的概率p停止工作，这样可以使模型泛化性更强，因为它不会太依赖某些局部的特征 dropout方法有很多类型，图像处理中最常用的是Dro ...
分类：
其他好文 时间：
2019-11-27 19:15:32
阅读次数：
970
[toc] 神经元的电活动 与神经有关的电活动主要包括动作电位和突触后电位两种形式。 动作电位：是一种离散的电压尖峰，而且从细胞体的轴突起始处想轴突末端传递，然后在末端释放神经递质。 突触后电位：是神经递质结合与突触后细胞膜受体时产生的电压，其原理是神经递质引起离子通道的开放和闭合，从而导致跨细胞膜 ...
分类：
其他好文 时间：
2019-11-25 20:31:44
阅读次数：
77
