对于基于深度学习的分类算法，其关键不仅在于提取与标签相关的目标信息，剔除无关的信息也是非常重要的，所以要在深度神经网络中引入软阈值化。阈值的自动设置，是深度残差收缩网络的核心贡献。需要注意的是，软阈值化中的阈值，需要满足一定的条件。这篇文章中的阈值设置，事实上，是在注意力机制下进行的。下面分别介绍阈 ...
分类：
其他好文 时间：
2019-09-29 18:14:43
阅读次数：
206
（1）回顾一下深度残差网络的结构 在下图中，(a)-(c)分别是三种残差模块，(d)是深度残差网络的整体示意图。BN指的是批标准化(Batch Normalization)，ReLU指的是整流线性单元激活函数(Rectifier Linear Unit)，Conv指的是卷积层(Convolution ...
分类：
其他好文 时间：
2019-09-28 18:29:51
阅读次数：
177
深度残差收缩网络（Deep Residual Shrinkage Network）是深度残差学习（Deep Residual Network, ResNet）的一种改进，发表在IEEE Transactions on Industrial Informatics上，面向的是数据包含噪声的情况。 简单 ...
分类：
其他好文 时间：
2019-09-27 20:59:09
阅读次数：
86
卡方检验主要用于分类变量之间的独立性检验 基本思想：卡方表示观察值与理论值之间的偏离程度。 设A代表某个类别的观察频数，E代表基于H0计算出的期望频数，A与E之差称为残差，卡方值计算公式： Ai为i水平的观察频数，Ei为i水平的期望频数，n为总频数，pi为i水平的期望频率。i水平的期望频数Ei等于总 ...
分类：
其他好文 时间：
2019-09-22 10:35:45
阅读次数：
320
原文链接：http://tecdat.cn/?p=6283 在Stata的实现中，可以使用鲁棒选项，当残差方差不恒定时，可以使用常规线性回归。使用稳健选项不会更改参数估计值，但使用三明治方差估计器计算标准误差（SE）。在这篇文章中，我将简要介绍使用稳健的区间回归的基本原理，并强调如果残差方差不是常数 ...
分类：
其他好文 时间：
2019-09-04 16:21:26
阅读次数：
120
一、流程 基函数线性加权和得到最终的强分类器。每轮迭代得到一个弱分类器，这个分类器是在上一轮的残差基础上得到的。本轮就是要找一个cart树，使得本轮的损失函数值更加的小。 二、如何选择特征（就是如何生成cart树） 回归树：平方误差和最小化，对于特征A=a时，集合D的误差最小时，就选择这个特征值最为 ...
分类：
其他好文 时间：
2019-08-11 23:24:44
阅读次数：
94
PyTorch对ResNet网络的实现解析 1.首先导入需要使用的包 2.定义一个3 3的卷积层 下面会重复使用到这个3 3卷积层，虽然只使用了几次... 这里为什么用深度而不用通道，是因为我觉得深度相比通道更有数量上感觉，其实都一样。 3.定义最重要的残差模块 这个是基础块，由两个叠加的3 3卷积 ...
分类：
Web程序 时间：
2019-07-30 21:41:18
阅读次数：
170
基本概念 利用线性的方法，模拟因变量与一个或多个自变量之间的关系。自变量是模型输入值，因变量是模型基于自变量的输出值。 因变量是自变量线性叠加和的结果。 线性回归模型背后的逻辑——最小二乘法计算线性系数 最小二乘法怎么理解？ 它的主要思想就是求解未知参数，使得理论值与观测值之差（即误差，或者说残差） ...
分类：
编程语言 时间：
2019-06-08 11:41:16
阅读次数：
115
1、MobilenetV3是通过NAS得到的，结合了v1,v2和MnasNet的结构，包括v1的dw，v2的linear bottleneck和逆残差结构， MnasNet的se结构(接在部分linear bottleneck之后)。 2、在之前的网络结构中，最后会用一个1*1来提高特征图数目（96 ...
分类：
Web程序 时间：
2019-05-20 17:36:21
阅读次数：
539
仅用作自己学习 这篇文章中我们会详细讲到Inception V2/V3/V4的发展历程以及它们的网络结构和亮点。 GoogLeNet Inception V2 GoogLeNet Inception V2在《Batch Normalization: Accelerating Deep Network ...
分类：
Web程序 时间：
2019-05-01 13:46:37
阅读次数：
198
