一、神经网络1.为了进行梯度下降，误差函数不能是离散的，而必须是连续的。误差函数必须是可微分的。同时，要将离散预测变成连续预测，方法是将激活函数从阶跃函数变成S函数。 2.最大似然法：选出实际发生的情况所对应的概率更大的模型。 3.交叉熵(损失函数)：将得到的概率取对数，对它们的相反数进行求和。准确 ...
分类：
其他好文 时间：
2018-11-26 22:09:27
阅读次数：
260
深度学习是机器学习的一种，深度学习是实现机器学习算法的技术，深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。 深度学习算法有卷积神经网络（cnn），循环神经网络（rnn）等，卷积神经网络用于图像处理较多，循环神经网络则处理不定长度的数据。 深度学习结合强化学习为深度强 ...
分类：
其他好文 时间：
2018-11-23 22:30:07
阅读次数：
232
单层感知器属于单层前向网络，即除输入层和输出层之外，只拥有一层神经元节点。 特点：输入数据从输入层经过隐藏层向输出层逐层传播，相邻两层的神经元之间相互连接，同一层的神经元之间没有连接。 感知器（perception）是由美国学者F.Rosenblatt提出的。与最早提出的MP模型不同，神经元突触权值 ...
分类：
其他好文 时间：
2018-11-12 17:47:03
阅读次数：
154
从感知机到神经网络 感知机 感知器在20世纪五、六十年代由科学技术Frank Rosenblatt发明，其受到Warren McCulloch和Walter Pitts早期的工作的影响。今天，使用其他人工神经元模型更为普遍———在这本书中，以及更多现代的神经网络工作中，主要使用的是一种叫做S型神经元... ...
分类：
其他好文 时间：
2018-10-26 22:16:25
阅读次数：
276
inception发展历程 v1 mlp多层感知器层 inception module 上面两个观看孔径，尺寸不一样，可以抽取不同分辨率，不同尺度的邻域范围的信息作为特征，这样就可以观察到输入数据的不同层次，不同分辨率的特征 因为这个1*1完了之后，就是做完内积以后，就在那一个点上，它是每个通道那一 ...
分类：
Web程序 时间：
2018-10-15 16:16:17
阅读次数：
176
3.8.1梯度法 定义： 梯度是一个向量，它的最重要性质就是指出了函数f在其自变量y增加时最大增长率的方向。 负梯度指出f的最陡下降方向 利用这个性质，可以设计一个迭代方案来寻找函数的最小值。 采用梯度法求解的基本思想 对感知器算法 式中的w(k)、xk随迭代次数k而变，是变量。 定义一个对错误分类 ...
分类：
编程语言 时间：
2018-10-15 12:16:46
阅读次数：
254
机器学习的一些基本概念，模型、目标函数、优化算法等等，这些概念对于机器学习算法来说都是通用的套路。 线性单元 当我们面对的数据不是线性可分的时候，感知器规则就无法收敛，为了解决这个问题，我们使用一个可导的线性函数来替代感知器的阶跃函数，这种感知器就叫做线性单元。线性单元在面对线性不可分的数据集的时候 ...
分类：
其他好文 时间：
2018-10-14 14:14:36
阅读次数：
211
本文结构： 1. 什么是线性单元 线性单元和感知器的区别就是在激活函数： 感知器的f是阶跃函数： 线性单元的激活函数是线性的： 所以线性模型的公式如下： 2. 有什么用 感知器存在一个问题，就是遇到线性不可分的数据时，就可能无法收敛，所以要使用一个可导的线性函数来替代阶跃函数，即线性单元，这样就会收 ...
分类：
其他好文 时间：
2018-10-09 12:20:13
阅读次数：
131
引言 深度学习背后的主要原理是从大脑中汲取灵感。，这种观点产生了“神经网络”术语，大脑包含数十亿个神经元，它们之间有数万个连接。 在许多情况下，深度学习算法类似于大脑，因为大脑和深度学习模型都涉及大量的计算单元（神经元），这些单元在未激活时并不是活跃的，它们彼此交互时会变得智能化。 神经元 神经网络 ...
分类：
其他好文 时间：
2018-10-06 11:55:39
阅读次数：
210
本文结构： 什么是线性单元 有什么用 代码实现 1. 什么是线性单元 线性单元和感知器的区别就是在激活函数： 感知器的 f 是阶越函数： 线性单元的激活函数是线性的： 所以线性模型的公式如下： 2. 有什么用 感知器存在一个问题，就是遇到线性不可分的数据时，就可能无法收敛，所以要使用一个可导的线性函 ...
分类：
其他好文 时间：
2018-09-30 16:43:07
阅读次数：
197
