面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

双非0offer求建议求指导已经无力面对了

刚进大厂才两周，直接被干懵了。这节奏快得让人想哭，每天都被压得喘不过气。好不容易才挤进来，现在走人实在不甘心，但继续硬撑又觉得快要顶不住了。从传统行业跳过来，发现这儿根本没人带你。问谁都是零碎信息，拼不出个完整逻辑。老员工个个忙得飞起，没人有空搭理你，上来就让你自己硬扛。任务东一榔头西一棒子的，搞得人整天神经紧绷，连周末都缓不过来。真不知道还要熬多久才能适应，接下来该咋整啊……