码迷,mamicode.com
首页 > 其他好文 > 详细

Batch Norm 对神经网络中的每一层进行正则化(未完成)

时间:2018-04-27 02:24:19      阅读:152      评论:0      收藏:0      [点我收藏+]

标签:ima   alt   使用   nbsp   比较   归一化   技术   batch   .com   

这个算法主要是解决了每一层中的正则化问题

其实我觉得这东西很鸡肋,因为我输入已经归一化了

然后初始的w,b也很小

每一层的输出肯定也很小

使用Batch Norm反而会加大训练时间,弱化神经网络中参数的作用

技术分享图片

 

 z(i)是这一层神经网络中第i个神经元,经过激活函数的输出

为了是下一层的输入比较相近,我们就需要使用Batch Norm

 

Batch Norm 对神经网络中的每一层进行正则化(未完成)

标签:ima   alt   使用   nbsp   比较   归一化   技术   batch   .com   

原文地址:https://www.cnblogs.com/shensobaolibin/p/8955701.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!