算法岗面试的时候写公式都是怎么写的？

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

字节：有道是“字节一年，人间三年”字节工作强度毋庸置疑，在快节奏、高压力、竞争激烈的环境下，大家持续高强度工作，听说平均工龄6个月，很多人坚持不住就跑了。但钱给的多，待遇贼好，反正字节要是要我，我肯定去。10点上班，晚上可能就10点11点才下班，个别组周六也加班，必须给个顶级。京东：狗厂强度也很大，早上九点多就得上班了，晚上下班时间也很晚，老刷到个别组凌晨下班，不知道真假，“和东哥做兄弟，不能早睡”，“大促期间直接睡公司”，但年终给的是真多给个顶级。拼多多：相当于命直接给公司了，而且招聘HR直接说了11-11-6的强度，有的公司HR还假惺惺的说965，实际。。。，多多不装了，直接摊牌了，强度拉...