1.概述 GBDT基于GB算法。GB算法的主要思想是，每次建立模型是在之前建立模型损失函数的梯度下降方向。损失函数是评价模型性能(一般为拟合程度+正则项)，认为损失函数越小，性能越好。而让损失函数持续下降，就能使得模型不断调整提升性能，其最好的方法就是使损失函数沿着梯度方向下降。GBDT再此基础上， ...
分类：
数据库 时间：
2020-03-04 09:52:00
阅读次数：
84
论文网址：https://arxiv.org/abs/1801.07698 一、介绍 基于深度卷积神经网络（Deep Convolutional Neural Networks, DCNNs）的大尺度的人脸识别的主要任务就是设计合适的损失函数以增强模型的判别能力。中心损失（Centre loss）惩 ...
分类：
其他好文 时间：
2020-03-03 22:17:56
阅读次数：
901
损失函数通过调用torch.nn包实现。 基本用法: criterion = LossCriterion() #构造函数有自己的参数 loss = criterion(x, y) #调用标准时也有参数 L1范数损失 L1Loss 计算 output 和 target 之差的绝对值。 torch.nn ...
分类：
其他好文 时间：
2020-03-02 22:37:33
阅读次数：
84
在各类比赛中经常出现预测回归问题，一般使用scikit learn的模型，本文就对这些类库的使用做一个总结，总结时注重自己做比赛中的使用经验。 1. Ordinary Least Squares（最小二乘法） 最简单的线性模型，损失函数是平方差损失，常用梯度下降法求解参数。 使用要点：这个模型不像其 ...
分类：
其他好文 时间：
2020-02-29 15:05:01
阅读次数：
105
在GAN中，对于生成的图片，主要考虑俩方面的因素： 1、图片的清晰度 图片的清晰度不够一般是由于网络的表达能力不够，需要使用更好或者更复杂地网络结构； 2、图片的多样性 图片的多样性不足则很有可能是损失函数地选取或者训练方法出了问题，常见的有mode collapsing和mode dropping ...
分类：
其他好文 时间：
2020-02-28 14:13:45
阅读次数：
105
基本用法12criterion = LossCriterion() loss = criterion(x, y) # 调用标准时也有参数损失函数L1范数损失：L1Loss计算 output 和 target 之差的绝对值。1torch.nn.L1Loss(reduction='mean')参数：re... ...
分类：
其他好文 时间：
2020-02-28 12:23:47
阅读次数：
57
过拟合现象，即模型的训练误差远?于它在测试集上的误差。虽然增?训练数据集可能会减轻过拟合，但是获取额外的训练数据往往代价?昂。本节介绍应对过拟合问题的常??法：权重衰减（weight decay）。 一、方法 权重衰减等价于 范数正则化（regularization）。正则化通过为模型损失函数添加惩 ...
分类：
其他好文 时间：
2020-02-28 01:35:13
阅读次数：
69
Pytorch_torch.nn.MSELoss 均方损失函数作用主要是求预测实例与真实实例之间的loss loss(xi,yi)=(xi?yi)2 函数需要输入两个tensor，类型统一设置为float，否则会报错，也可以在全局设置torch.set_default_tensor_type(tor ...
分类：
其他好文 时间：
2020-02-27 01:06:32
阅读次数：
358
一.损失函数的使用 损失函数【也称目标函数或优化评分函数】是编译模型时所需的两个参数之一。 model.compile(loss='mean_squared_error', optimizer='sgd') 或 from keras import losses model.compile(loss= ...
分类：
其他好文 时间：
2020-02-25 17:58:18
阅读次数：
100
1、torch.nn.CrossEntropyLoss() loss_func=torch.nn.CrossEntropyLoss() loss=loss_func(input_data,input_target) 其中input_data的shape一般是(batch_size,output_fe ...
分类：
其他好文 时间：
2020-02-24 16:42:33
阅读次数：
89
