面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

终于知道网上jd面经什么辣么少了

这offer是不是不太对劲啊

第一段实习拷打，工作流是什么样的，为什么要搭建它，具体怎么做的文件分块处理的维度是什么，怎么考量的工作流使用的是什么模型（公司内部），效果不好有没有考虑公司内部部署的开源模型workflow搭建平台介绍AST怎么去识别中文的如果有不需要翻译的中文怎么做处理第二段实习拷打，做了什么东西，目的是什么，效果怎么样http的缓存策略算法：爬楼梯，每次只能爬1/2个台阶，输出到达第n个台阶的所有路径http长连接在页面里面去添加一个动效有哪些方法css动画的定义垃圾回收机制反问第三段实习低代码平台相关内容聊天比较可惜 技术栈可能不匹配，怀疑挂（已挂）