面试题简述Transformer中用的是LayerNorm，而不是常见的BatchNorm，这是为什么？面试官想听的意识到不是BN不好，而是不适合Transformer的使用场景。面试回答举例Transformer中选择LayerNorm而不是BatchNorm，主要原因和序列建模方式以及训练场景有关。详情请查看：http://xhslink.com/o/8yJohFzKSX6由浅入深分析1、BN 依赖 batch 统计量。2、LN 只依赖特征维度。3、Transformer 的 token 并行与 BN 设计目标维度不一致。4、自回归推理场景下 BN 表现不稳定。面试加分点1、提出推理阶段 ...

1.自我介绍2.freerots主要是微内核，主要有哪些组成部分，内部任务间的通信方式有哪些？3.freertos任务切换的过程，详细一点如何切换的，保存怎么恢复的？4.freertos任务有哪些不同的状态？高优先级任务被阻塞或者挂起，再执行低优先级任务5.用过单片机的哪些外设？6.PWM除了占空比之外还有什么要素？频率，周期，占空比7.蓝牙的底层协议？8.linux的进程间通信机制？9.进程间的调度方式？10.linux的内存管理？11.了解Linux的一些驱动么？12.对VFS的框架有了解么？13.常用的linux基础命令14.GCC编译一般分为那几部分？15.用过vim么，介绍vim常用...