一、感知机 原理参考https://www.cnblogs.com/pinard/p/6042320.html#!comments $sign(x)= \begin{cases} -1& {x<0}\\ 1& {x\geq 0} \end{cases}$ 在推导出损失函数的时候，简化运算不考虑分母 ...
分类：
其他好文 时间：
2020-07-05 18:54:34
阅读次数：
59
感知机需要人工设定权重，而神经网络可以自动地从数据中学习到合适的权重参数。 激活函数（activation function）——将输入信号的总和转换为输出信号。激活函数的作用在于决定如何激活输入信号的总和。 阶跃函数——一旦输入超过阈值，就切换输出。一般而言，“朴素感知机”是指单层网络，指的是激活 ...
分类：
其他好文 时间：
2020-06-27 23:58:18
阅读次数：
134
最近在研究深度学习的论文，但是由于基础薄弱，所以下网上看了好多关于感知器的文章，总结如下： 我们先从最简单的单层感知机学起，单层感知机是一个多输入单输出的模型。 输入：x1, x2 权重：w1, w2 偏置：b 输出：y 为什么要f映射呢？ 我们知道f是激活函数，是非线性函数。 如果我们没有激活函数 ...
分类：
其他好文 时间：
2020-06-25 17:33:16
阅读次数：
52
深度学习 深度学习是机器学习的分支，也就是神经网络，为什么称之为”深度“？因为有很多连接在一起的神经层！ 前馈网络 Feedforward Networks 也叫Multilayer Perceptrons（多层感知机），大致的结构如下图所示 其中，每一个节点都可以看做是一个函数，将上一层传过来的输 ...
分类：
Web程序 时间：
2020-06-20 18:55:42
阅读次数：
99
神经网络 BPNN 感知机 神经网络入门 反向传播 tensorflow tf基础 控制依赖项 变量命名域和tensorboard 一元线性回归 模型持久化 交叉熵 global_steps的使用 手写数据集实现 CNN 激活函数 CNN过拟合 手写数据集CNN模型 权重初始化-CNN 批归一化 自 ...
分类：
其他好文 时间：
2020-06-18 17:49:05
阅读次数：
63
深度神经网络（Deep Neural Networks， 以下简称DNN）是深度学习的基础，而要理解DNN，首先我们要理解DNN模型，下面我们就对DNN的模型与前向传播算法做一个总结。 https://zhuanlan.zhihu.com/p/29815081 1 从感知机到神经网络 感知机的模型，... ...
分类：
其他好文 时间：
2020-06-09 09:18:03
阅读次数：
69
Hornik 等人的工作（http://www.cs.cmu.edu/~bhiksha/courses/deeplearning/Fall.2016/notes/Sonia_Hornik.pdf）证明了一句话，“只有一个隐藏层的多层前馈网络足以逼近任何函数，同时还可以保证很高的精度和令人满意的效果。 ...
分类：
其他好文 时间：
2020-06-08 19:09:55
阅读次数：
63
TensorFlow 支持自动求导，可以使用 TensorFlow 优化器来计算和使用梯度。它使用梯度自动更新用变量定义的张量。本节将使用 TensorFlow 优化器来训练网络。前面章节中，我们定义了层、权重、损失、梯度以及通过梯度更新权重。用公式实现可以帮助我们更好地理解，但随着网络层数的增加， ...
分类：
其他好文 时间：
2020-06-08 18:52:30
阅读次数：
70
[TOC] 1 感知机 感知机是一种二分类模型，其输入为实例的特征向量，输出为$\pm1$。感知机模型是神经网络和支持向量机的基础。 定义 ：假设输入空间是$X \subseteq R^n$输出空间是$Y \subseteq \{+1, 1\}$。输入$x \in X$表示实例的特征向量，对应于输入 ...
分类：
其他好文 时间：
2020-05-24 13:29:10
阅读次数：
69
3.8.1 隐藏层 3.8.2 激活函数 ReLU函数 ReLU = max(x,0) sigmoid函数 sigmoid = $\frac{1}{1+exp( x)}$ Tanh 函数 tanh = $\frac{1 exp( 2x)}{1+exp( 2x)}$ 3.8.3 多层感知机 隐藏层的层 ...
分类：
其他好文 时间：
2020-05-20 14:32:53
阅读次数：
68
