R表达式中常用的符号 残差(Residuals) 残差是真实值与预测值之间的差,五个分位的值越小模型越精确 系数项与截距项(Coefficients & Intercept)和P值指标 残差标准误(Residual standard error) 残差的标准误差,越小越好 R方判定系数 模型拟合的质 ...
分类:
编程语言 时间:
2020-05-24 19:20:12
阅读次数:
584
本文在调参记录23的基础上,增加卷积核的个数,最少是64个,最多是256个,继续测试深度残差网络+自适应参数化ReLU激活函数在cifar10数据集上的效果。 自适应参数化ReLU激活函数被放在了残差模块的第二个卷积层之后,它的基本原理如下: Keras程序: #!/usr/bin/env pyth ...
分类:
其他好文 时间:
2020-05-21 10:03:22
阅读次数:
53
看的多个Kaggle上 图片分类比赛 的代码,发现基本都会选择resnet网络作为前置网络进行训练,那么如何实现这个呢? 本文主要分为两个部分 第一个部分讲解如何使用PyTorch来实现前置网络的设置,以及参数的下载和导入 第二个部分简单讲一下resnet运行的原理。 第一部分:实现 有一个非常好用 ...
分类:
Web程序 时间:
2020-05-20 20:26:43
阅读次数:
124
本文在调参记录21的基础上,增加卷积核的个数,也就是增加深度神经网络的宽度,继续尝试深度残差网络+自适应参数化ReLU激活函数在Cifar10数据集上的效果。 自适应参数化ReLU激活函数的原理如下: Keras程序: #!/usr/bin/env python3 # -*- coding: utf ...
分类:
其他好文 时间:
2020-05-19 12:45:06
阅读次数:
50
在调参记录14里,只有2个残差模块,结果遭遇欠拟合了。这次增加一个残差模块试试。 自适应参数化ReLU激活函数的基本原理如下: Keras程序如下: #!/usr/bin/env python3 # -*- coding: utf-8 -*- """ Created on Tue Apr 14 04 ...
分类:
其他好文 时间:
2020-05-19 10:32:50
阅读次数:
56
续上一篇:深度残差网络+自适应参数化ReLU激活函数(调参记录7)https://www.cnblogs.com/shisuzanian/p/12907617.html本文将层数设置得很少,只有两个残差模块,测试Adaptively Parametric ReLU(APReLU)激活函数在Cifar ...
分类:
其他好文 时间:
2020-05-18 01:09:52
阅读次数:
74
本文在调参记录6的基础上,继续调整超参数,测试Adaptively Parametric ReLU(APReLU)激活函数在Cifar10图像集上的效果。 深度残差网络+自适应参数化ReLU激活函数(调参记录6)https://www.cnblogs.com/shisuzanian/p/129074 ...
分类:
其他好文 时间:
2020-05-18 00:35:17
阅读次数:
69
本文采用了深度残差网络和自适应参数化ReLU激活函数,构造了一个网络(有9个残差模块,卷积核的个数比较少,最少是8个,最多是32个),在Cifar10数据集上进行了初步的尝试。 其中,自适应参数化ReLU激活函数原本是应用在基于振动信号的故障诊断,是参数化ReLU的一种改进,其基本原理如下图所示: ...
分类:
其他好文 时间:
2020-05-17 21:49:35
阅读次数:
66
Ridge regression 通过对系数的大小施加惩罚来解决 普通最小二乘法 的一些问题。岭回归系数最小化的是带惩罚项的残差平方和,数学形式如下: min∑i=1p‖Xωi y‖2+α‖ω‖2 其中,α = 0是一个控制缩减量(amount of shrinkage)的复杂度参数:α的值越大,缩 ...
分类:
其他好文 时间:
2020-05-07 20:16:44
阅读次数:
62
无论是风控,抑或自然语言处理,计算机视觉等等各领域,数据的不均衡分布始终都是我们要面对的问题,智能风控也可以从其他领域借鉴好的做法来提升我们的模型。随着”新基建”的积极推进和5G的蓄势待发,数据将伴随着时代的浪潮不可避免地激增,如何科学地处理数据,快速地计算,精准地处理,稳健地部署将是值得从业者们一直关注的问题,我们也将作为先行者和践行者,去实践,去创造,去分享。
分类:
其他好文 时间:
2020-04-10 10:32:19
阅读次数:
217