1.简述过拟合和欠拟合的含义。用深度学习训练网络时在什么情况下容易导致过拟合？常见的防止模型过拟合的的方法有哪些（答出3种）？ ? 过拟合是指模型在训练数据上拟合很好，但是在测试数据上较差的现象。欠拟合是指模型在训练数据上的表现和在测试数据上一样差。 ? 在训练数据很少，模型很复杂的情况下容易导致过 ...
分类：
编程语言 时间：
2020-11-12 13:54:30
阅读次数：
7
一般而言，我们需要对输入进行归一化，保证输入的特征在都分布在0-1或者-1 - +1，这样可以加快收敛，防止因某一个特征数值大造成的模型过拟合或欠拟合问题。 但深度学习因为模型深度深，常常会出现梯度爆炸或梯度消失问题，如果对每一层输入都进行特征的归一化，可以有效地解决这个问题。 BatchNorma ...
分类：
其他好文 时间：
2020-11-01 10:39:39
阅读次数：
18
机器学习中的用于声称性能的指标标准很少被讨论。由于在这个问题上似乎没有一个明确的、广泛的共识，因此我认为提供我一直在倡导并尽可能遵循的标准可能会很有趣。它源于这个简单的前提，这是我的科学老师从中学开始就灌输给我的：科学报告的一般规则是，您写下的每个数字都应为“真”的，因为“真”的定义是什么。让我们来研究一下这对测试性能等统计量意味着什么。当你在科学出版物中写下以下陈述时：测试准确率为52.34%。
分类：
其他好文 时间：
2020-10-19 22:46:16
阅读次数：
21
1.训练集数据量大，测试集数据了小，容易在复赛过拟合 2.数据：个人信息 App的使用信息 个人消费记录 3.处理过程： 1）数据清洗 1.1 对缺失值的对维度处理 1.1.1 按列属性统计缺失值（可视化） 剔除缺失值比例高的属性（90%左右）； 缺失值比例在40%~60%（缺省型-1）； 确实在2 ...
分类：
其他好文 时间：
2020-09-17 22:31:23
阅读次数：
28
1. 简介 随着神经网络的进一步加深，可能会出现如下问题： （1）梯度消失、梯度爆炸 （2）退化问题--训练集上准确率下降（不等于过拟合--表现为在训练集上表现更好） ResNet是2015年ILSVRC 比赛2015第一名的算法。主要是针对更深的神经网络难以训练的问题，提出了一种残差学习的结构，不 ...
分类：
Web程序 时间：
2020-09-12 21:11:26
阅读次数：
46
1.简介 GoogLeNet是2014年ILSVRC挑战赛排名第一的算法。与其他进一步加深神经网络的宽度和深度的网络结构不同，GoogLeNet团队提出了一种Inception网络结构，就是构造一种“基础神经元”结构，来搭建一个稀疏性、高计算性能的网络结构。 优点：克服了深层次神经网络的带来的过拟合 ...
分类：
Web程序 时间：
2020-09-09 19:24:13
阅读次数：
83
一、网络 二、激活函数 激活函数：对隐藏变量使用按元素运算的非线性函数进行变换，作为下一个全连接层的输入。这个非线性函数被称为激活函数。 三、正则化 正则化：正则化通过为模型损失函数添加惩罚项使学出的模型参数值较小，是应对过拟合的常用手段。 四、损失函数 五、网络模型优化算法 ...
分类：
编程语言 时间：
2020-07-29 21:59:19
阅读次数：
100
1.数据处理时缺失指怎么处理 2.L1和L2的区别 3.高维数据如何降维 4.特征处理，连续型和非连续性，给了个例子，年龄和user_id两个特征如何处理 5.LR了解吗，如何解决过拟合问题 6.如何评估模型结果，我把分类和回归分别解释，介绍各种评估方式的不足，还问了ROC曲线横纵坐标 7.Rand ...
分类：
其他好文 时间：
2020-07-28 22:38:27
阅读次数：
115
总结 样本类别分布不均衡处理（处理过拟合和欠拟合问题） 过抽样（上采样）：通过增加分类中少数类样本的数量来实现样本均衡 from imblearn.over_sampling import SMOTE 欠抽样（下采样）：通过减少分类中多数类样本的数量来实现样本均衡 (可能造成样本数据大量丢失) fr ...
分类：
其他好文 时间：
2020-07-28 00:04:11
阅读次数：
85
一、偏差和方差 欠拟合的loss主要来自偏差 过拟合的loss主要来自方差 应对大的偏差的方法： 增加更多特征作为输入 使用更复杂的模型 应对大的方差的方法： 更多数据 正则化 k折交叉验证 二、梯度下降 Adagrad 二次微分大的点梯度虽然大但是可能会比梯度小的点离极值点更近，因此学习率需要考虑 ...
分类：
其他好文 时间：
2020-07-22 20:53:23
阅读次数：
106
