秋招时间线

攒人品中！！！1. attention中数据shape是batch first还是seq_len first2. Prompt长度加倍，首token延迟加倍吗3. 模型选型时是否做定性定量对比ab test，客观数据验证文心性能不好了吗4. SFT过程中遇到了哪些问题和解决方案？5. 如何定性定量评估数据集质量，单条和整体数据集质量？6. 单一分类模型，细分分类模型和MOE融合的优劣。7. MHA手写

被横向挂了，希望发出来对大家有帮助！八股：1.RMSNorm2.Adamw和Adam的区别，好处是什么3.transformer的效率优化的地方，介绍以下KV cache4.你还了解哪些多模态大模型？5.Transformer有几个残差连接，分别在哪？6.pre-norm和post-norm的区别7.Lora的原理；矩阵的秩怎么取；矩阵如何初始化；会引入额外的耗时吗？其它的参数高效微调方法1.双塔模型的了解；clip的损失函数；clip为什么效果好；基于clip的工作2.clip相比llava这种全交互结构，差别在哪里？性能差异大吗？为什么？如果llava没有超过clip，是什么原因？3.clip和llava的图像编码器有区别吗？4.Qwen的训练流程，每一步的训练数据差别，为什么三阶段而不是二阶段手撕：零钱兑换

兄弟们后端暑假实习笔试难度是什么样的？刷熟hot100+面试200的力扣够吗？还是说会和秋招一样非常难😭

攒攒人品！有面试过同岗的朋友欢迎评论区交流1.项目拷打2.MoE模型微调显存计算3.从数学角度解释为什么attention要除以根号下d_k？如果不开根号行不行4.多模态大模型的架构一般有哪些5.PPO有几个模型？6.GRPO和PPO有什么区别？7.拷打论文