解决overfitting的方法

解决overfitting的方法

Dropout， regularization， batch normalizatin。

但是要注意dropout只在训练的时候用，让一部分神经元随机失活。

Batch normalization是为了让输出都是单位高斯激活，方法是在连接和激活函数之间加入Batch Norm层，计算每个特征的均值和方差进行规则化。