model.trian()及model.eval()

标签：als   分网   默认参数   eva   drop   rop   ati   均值   连接   

net.eval() #评估模式,就是net.train(False)。
设置之后会对前向传播相关进行过滤，会关闭dropout BN等 #如果网络本身没有BN和dropout，那就没区别了。

net.train()：默认参数是Train。model.train（）会启动drop 和 BN，但是model.train(False)不会

如果模型中有BN层(Batch Normalization）和Dropout，需要在训练时添加model.train()，在测试时添加model.eval()。其中model.train()是保证BN层用每一批数据的均值和方差，而model.eval()是保证BN用全部训练数据的均值和方差；
而对于Dropout，model.train()是随机取一部分网络连接来训练更新参数，而model.eval()是利用到了所有网络连接。

model.trian()及model.eval()

标签：als   分网   默认参数   eva   drop   rop   ati   均值   连接   

原文地址：https://www.cnblogs.com/Henry-ZHAO/p/13230320.html