面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

拿到了字节和bilibili的意向还有一些在池子里泡着等待开奖啦

bg：双非计算机本科，acmer，一段大厂后端实习offer情况：以下是个人秋招获得的offer，最后选择了腾讯后端开发。小马智行：16薪 + 股票 + 签字费，base广州京东：20薪 + 签字费，base北京美团：15.5薪，base北京腾讯：17薪 + 股票 + 签字费，base广州面试情况：共计30+技术面，覆盖后端，客户端，数据引擎开发，游戏服务端，智能驾驶，音视频等...网易雷火游戏服务端：一面 + 二面 + 三面 + hr面网易雷火游戏客户端（服务端是绿通，不冲突流程）：笔试 + 交叉A面 + 交叉B面炎魂网络游戏服务器：笔试 + 一面 + 二面百度后端：笔试 + 一面挂米哈游游...