华为海思

跟着鱼皮做了一个亿级流量点赞系统，还有外卖和点评把这俩个项目融合成一个咖啡项目，想碰碰运气，找个寒假实习，中小厂什么的都行

今天在食堂吃饭听到后边桌的领导在讨论昨天的面试，领导说有个学生说Java不太熟悉，对Python熟悉一些，然后他就问Python的基础类型有哪些，变量命名有哪些规则，他说一个也答不出来，吐槽说自己熟悉的语言这些基础都不会还熟悉Python呢

面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...