面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

这个公司真的来对了，今天第一天真的感觉到了公司的氛围很棒，上午就光忙着办手续和签合同，下午就配环境，配环境确实很烦人的，我一定要整一个配环境的文档，造福公司后续的实习生公司给每个新人都准备了礼包，瞅上去确实很喜欢我还发现上班的一个姐姐居然是我的同校学姐，真的很nice捏希望日后也可以一番风顺吧

对不起度，有鹅选鹅套公式了球球度不要拉黑

序又到了春招季了, 我也工作两年多了, 面过大大小小的公司几十家, 也和一些刚入职场的朋友深入交流过, 很感慨啊很感慨, 很多事情其实非常坑, 但是如果你不踩一次很难知道其中的水深. 因此我想借助这篇文章和牛客这个平台, 详细讲一讲我自己遇到的坑和我认识的朋友遇到过的坑先讲一下笔者基本情况吧, 我是信息安全出身,也有一些开发能力, 拿过不少奖, 在校三段实习, 银联, i春秋, 索尼. 但是校招时真的一步错步步错, 虽然依靠社招还算是挽回了一些, 但是第一份工作的平台真的比较狭窄, 让我发展也非常受限, 踩了很多坑接下来我想从多个方面讲一下 从开始春招秋招, 到最后找到工作开始新生活, 这段历...