首页 > 试题广场 >

在知识蒸馏中,教师模型输出的soft label通常使用温度

[单选题]
在知识蒸馏中,教师模型输出的soft label通常使用温度参数T进行缩放,当T增大时会产生什么效果?
  • 输出概率分布变得更加尖锐(接近one-hot)
  • 输出概率分布变得更加平滑,类间关系信息更丰富
  • 模型的推理速度加快
  • 损失函数的梯度变为零

这道题你会答吗?花几分钟告诉大家答案吧!