使用当前推理 mini-batch 的均值和方差。
实时计算整个训练数据集的全局均值和方差。
使用在训练过程中通过指数移动平均(exponential moving average)估算并保存下来的全局均值和方差。
在推理阶段禁用归一化操作,直接将输入传递给下一层。
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题