面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

发消息发到工作群了。。。主要是朋友也看错群了还回复了

rt，人生第一次实习，感觉自己是个大水货，配环境就花了一天，这个大项目，更是不知道该怎么捋，该怎么办该怎么办，怕被开了

最近年底，各个大厂基本都在忙着年度述职，这里可以和大家科普一下，所谓的年度述职就是在老板面前汇报你这一年的工作，你这一年都干了 什么 ，当初给你制定的目标（OKR） 有没有完成呀等等。一般就是写个文档或者ppt然后组内轮流汇报，也就相当于期末考试了，最后的成绩是关联你的年终奖的。所以那些15薪18薪的，多出来的几个月工资你能不能拿的满是要看你今年的表现的，表现的好可能拿满或者拿到120%，表现得不好可能就拿到80%或者50%，再或者没有年终奖得也不是没有可能。一直都在比然后从上面的述职就想到了从小到大我们一直在被要求超过别人，从上学的考试成绩，到上班拿多少得薪资，再到结婚找了个多好得对象，再往...