面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

bg：双非本科时间线：七月初两天拿下实习，然后实习3个月，在国庆假期后进行转正，十月底录取，十一月初谈薪，今天正式签署三方协议完毕一些补充：贴主并不是竞赛哥和实习大佬，在进入字节前，我只有一段“作坊”实习和学校项目。想对双非同学们说：互联网行业，技术永远是第一竞争力，学历确实是敲门砖，但统招本科，已经足够敲开大多数门了。比起自怨自艾失去信心、花费时间在郁闷与自我否定，学习技术、训练项目能力、积极乐观的面对明天，才是我们应该做的。与此同时，对问题多思考，给出自己的初步解决思路是关键。学历并不能把人分为三六九等，把技术当成壁垒和台阶踩在脚下，才真正决定了你的高度。加油，奥利给！干就完了！

前几日在在电梯里听见的谈论：“你这几年换了三份工作啊？”“嗯。”“厉害……也有点飘。”电梯门一合，扣好“草率”的标签，一整天都刮着风。与其争辩，不如换个叙述方式。今天不讲数据，讲一个三幕小剧场，把“稳定”与“跳槽”请上台，各自说话。第一幕｜传统观念的回音墙父母视角：稳定=安全。“铁饭碗至少不饿肚子。”邻里视角：稳定=体面。“单位名片比名片上人名重要。”部分HR视角：稳定=可靠。“履历像一条直线，省心。”这些声音没有错，只是来自过去的经济逻辑：岗位稀缺、失败成本高、信息不透明。但现在的职场像一条不断分叉的河。你原地扎营可以，但也许更好的水草在拐弯处。“稳定”如果只是不变，那更像卡在河床上的一块石...