西山居技术训练营

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

大三，普通二本，电子信息工程专业，软硬件都会一些，但是感觉自己啥也不会

贼逆天啊，发了个“youbing”然后光速撤回拉黑了，没截下来。

bg:9本大二/主go/一段实验室打工经历 二面感觉问得深很多，面试官笑呵呵的很有压力 1. 项目深挖（短链接生成系统 - 架构设计与一致性）  面试官： 请简单介绍一下这个短链接生成系统的核心流程。 面试官： 你为什么引入 Redis？如果去掉 Redis 直接抗 5000 QPS，PostgreSQL 的瓶颈大概会出在哪里？ 面试官： 短链接生成的算法你用的哪种？如果是 Hash 算法，产生碰撞（Conflict）了你如何在代码层面解决？ 面试官： 谈谈你提到的一致性方案：先更新数据库，再删除缓存。 面试官： 如果数据库更新成功，但删除缓存失败了，此时会有脏数据。除了重试机制，你了解“延迟...