如何呢

目前进度：面试总时长半个月，一共16场面试（WXG、快手、百度、两场字节）挂了一场（字节的三面），其他：字节（offer已接）、WXG（意向已拒）、快手（offer已接）、百度（意向已拒）timeline：百度：● 10.29 一面● 11.5 二面● 11.7 三面● 11.7 oc（拒）快手：● 11.3 一面● 11.6 二面● 11.7 oc（接）字节1：● 11.5 一面● 11.6 二面● 11.7 三面● 11.8 挂字节2:● 11.11 一面● 11.12 二面● 11.13 三面● 11.14 oc腾讯：● 11.11 一面● 11.12 二面● 11.13 三面● 11.14 hr面● 11.14 ocmomenta：● 11.4 一面● 11.5 约二面（拒）

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...