本文是对机器学习算法的一个概览，以及个人的学习小结。通过阅读本文，可以快速地对机器学习算法有一个比较清晰的了解。本文承诺不会出现任何数学公式及推导，适合茶余饭后轻松阅读。 ...
分类：
编程语言 时间：
2017-11-08 17:43:06
阅读次数：
222
转自：http://blog.csdn.net/cxmscb/article/details/71023576 一、CNN的引入 在人工的全连接神经网络中，每相邻两层之间的每个神经元之间都是有边相连的。当输入层的特征维度变得很高时，这时全连接网络需要训练的参数就会增大很多，计算速度就会变得很慢，例如 ...
分类：
其他好文 时间：
2017-11-01 13:24:14
阅读次数：
339
一、反向传播的由来 在我们开始DL的研究之前，需要把ANN—人工神经元网络以及bp算法做一个简单解释。关于ANN的结构，我不再多说，网上有大量的学习资料，主要就是搞清一些名词：输入层/输入神经元，输出层/输出神经元，隐层/隐层神经元，权值，偏置，激活函数接下来我们需要知道ANN是怎么训练的，假设AN ...
分类：
编程语言 时间：
2017-10-29 21:55:06
阅读次数：
750
发明背景与现有技术应用背景 深度学习已经在图像分类检测、游戏等诸多领域取得了突破性的成绩。由于人工神经网络计算量大，训练时间长。因此，相关的硬件加速平台也在百花齐放，包括基于英伟达的GPU、谷歌的TPU、以及FPGA实现的神经网络硬件平台。神经网络的结构复杂多样、计算量大的特点，给硬件设计带来了巨大 ...
分类：
其他好文 时间：
2017-10-25 13:08:12
阅读次数：
203
1. 第i层网络 Z[i] = W[i]A[i-1] + B[i]，A[i] = f(Z[i])。 其中， W[i]形状是n[i]*n[i-1]，n[i]是第i层神经元的数量； A[i-1]是第i-1层的神经元，形状是n[i-1]*p，p是样本数量； B[i]形状是n[i]*p，B[i]的每一列都是 ...
分类：
其他好文 时间：
2017-10-25 01:01:14
阅读次数：
226
一、纲要 神经网络模型表示 神经网络的直观理解 神经网络做多类分类 二、内容详述 1、神经网络模型表示 这里就不再描述大脑的神经网络和神经元了，我们直接看神经网络的模型。我们先从最简单的神经网络开始，即只有input layer和output layer 这里的x0叫做偏置单元，跟之前一样，为一常数 ...
分类：
其他好文 时间：
2017-10-24 01:44:54
阅读次数：
295
原文：https://zybuluo.com/hanbingtao/note/541458 循环神经网络也可以画成下面这个样子： 双向循环神经网络 对于语言模型来说，很多时候光看前面的词是不够的，比如下面这句话： 我的手机坏了，我打算____一部新手机。 可以想象，如果我们只看横线前面的词，手机坏了 ...
分类：
其他好文 时间：
2017-10-23 18:30:10
阅读次数：
192
论文参考：Deep Sparse Rectifier Neural Networks (很有趣的一篇paper） 起源：传统激活函数、脑神经元激活频率研究、稀疏激活性 传统Sigmoid系激活函数 传统神经网络中最常用的两个激活函数，Sigmoid系（Logistic-Sigmoid、Tanh-Si ...
分类：
其他好文 时间：
2017-10-20 10:05:25
阅读次数：
157
一些相关的概念 1.前馈神经网络（feedforward neural network），简称前馈网络，是人工神经网络的一种。在此种神经网络中，各神经元从输入层开始，接收前一级输入，并输出到下一级，直至输出层。整个网络中无反馈，可用一个有向无环图表示。 前馈神经网络采用一种单向多层结构。其中每一层包 ...
分类：
其他好文 时间：
2017-10-16 15:03:25
阅读次数：
230
1. Backpropagation：沿着computational graph利用链式法则求导。每个神经元有两个输入x、y，一个输出z，好多层这种神经元连接起来，这时候已知?L/?z，可以求出?L/?x = ?L/?z * ?z/?x，?L/?y = ?L/?z * ?z/?y。靠这种方式可以计算 ...
分类：
编程语言 时间：
2017-10-15 22:23:42
阅读次数：
188
