面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

周日一面，周一二面，周二hr确认发offer，没见过这么迅速的谢谢小米

介绍：这里面都是一些比较短小的名词，不值得被单独拉出来写成一篇文章。因此我们把他放在这里。非技术类：PRD:PRD 是 Product Requirements Document 的缩写，中文意思是产品需求文档，是产品经理在需求评审会前产出的核心交付物，也是后端开发、测试、设计等所有角色理解需求、开展工作的唯一依据。简单说，PRD 就是把产品要做的功能、要解决的问题、要达到的目标，用清晰、无歧义、可量化的文字写下来，避免大家对需求 “各说各话”。ABTest：A/B Test 全称是 A/B 测试，本质是一种对照实验方法：在产品迭代时，将用户随机分成两组（或多组），给不同组推送功能、策略、界面...