学不进去了，记录一下今年的暑期实习

我最近的体感就是，我明明都挂了，还有京东来面试了。不是一个，两个，而是多个？都是大聪明，都想套方案？面试流程也不正常，非常想要知道一些Ai的独特见解或者方案实现的细节。是不是公司内部有kpi要求，强制要让Ai融入到部门中吗？不问八股，不写算法。"我比其他人的优势在什么地方？" 其他人是谁？我就一应届生，你要我怎么给独特的见解，让我手搓一个比deepseek模型？还是说你要出一个和豆包一样ai agent 应用？虚空打靶，我只能这样说

坐标北方，性格外向，本硕985，目前两个offer再考虑，想听听大家的建议～🔸美团（北京）｜后端开发- 薪资：(n+3)×(12+(0~6)) + 5w签字费，年包算下来加上签字费到手比阿里多6w+- base：北京- 工作强度：1095，强度较大，组里业务较核心- 地域：接受外地，但北京生活成本高🔸阿里云（杭州）｜管培生（商业技术方向）- 薪资：n×16，总包略低，但稳定，还考虑到杭州人才补贴- base：杭州，培训轮岗一年后定岗（BTE/SA等方向）- 工作强度：相对轻松，节奏更健康- 发展路径：管培体系，有机会接触业务全貌，长期成长性不错综合来看，阿里云在工作生活平衡、长期发展和平台资源上更吸引我，生活成本低，个人更倾向选择阿里云。目前心里天平已经有点倾斜了，但还是有点犹豫，身边没有管培生的同学，大部分都是开发算法。有没有了解两边部门情况的大佬？或者经历过管培定岗的前辈？求指点！

希望大佬给出求职建议！希望大佬能给出选择理由！求职方向是：后端开发、Agent开发。希望能够找个发展前景不错，下班能在20.00左右的公司虎鲸文娱-大麦国际-后端开发优点：有阿里巴巴背书，文娱整体不怎么加班缺点：传统Java开发，大麦国际作息未知阿里云-瓴羊-后端开发优点：Agent相关开发，20点左右能下班。缺点：阿里的子公司认可度未知，薪资不如阿里云。京东-科技-后端开发优点：Agent相关开发工作，薪资比较高。缺点：部门作息比较长，周六偶尔加班。美团-搜索推荐-后端开发优点：搜推+大模型相关的工程开发。缺点：开水团最高只有SP，作息未知。快手-可灵-后端开发-无意向按排序开奖优点：Agent相关开发缺点：强度很高百度智能云-金融产品部-后端开发-无意向按排序开奖优点：做的是Agent相关的开发工作缺点：不知道部门作息什么样虾皮-支付部门-后端开发-无意向按排序开奖优点：假外企，作息稍微好一点，往届月Base挺高的缺点：部门风评一般，年终拿不满，10%末位淘汰

1.实习介绍2. Lora 原理(核心是低秩分解:将原始权重更新近似为两个低秩矩阵乘积，减少参数量，保留主导方向，训练高效)3.了解 DeepSpeed 吗，ZeRO -1, ZeRO -2和 ZeRO3分别做了哪些优化(1优化优化器状态，2优化梯度，3切分参数，全面节省显存)4. Qwen的模型结构是怎么样的，相比于 LLaMA,DeepSeek 有什么区别(Qwen采用GQA+SwiGLU+RMSNorm，和LLaMA架构非常相似，差异在训练数据和tokenizer中文支持更好;DeepSeek只用MoE/MLA架构，Qwen系列主要是Dense模型)5.怎么缓解大模型的幻觉问题(RAG，RLHF对齐，事实监督)6.大模型的 MoE 结构相比于 Dense 结构训练的难点在什么地方，DeepSeekMoE为什么效果好，有什么值得我们借鉴创新点(MoE面临负载不均衡、训练不稳定问题;DeepSeekMoE通过细粒度专家和共享专家设计提升稳定性和效果)7.知道FP16和BF16有什么区别吗，包括FP32和INT8这些，在训练大模型的时候，应该怎么选择(FP16精度高但易溢出，BF16动态范围大;训练常用BF16混合精度，推理用INT8量化加速)8.讲-下 RLHF 的流程，写-下 PPO和 DPO的 Loss表达式(训练奖励模型后用PPO/DPO优化策略:PPO Loss: policy ratio + KL 约束/ DPO Loss: logit preference diff + sigmoid binary loss)9.对于超长上下文业界一般是怎么做的，你知道 Qwen是怎么做的吗(业界常用ROPE 变体/滑动窗口注意力/稀疏注意力等:Qwen使用YaRN和窗口注意力扩展上下文)10.开放题:你觉得目前大模型的上限在哪里(推理能力、长期记忆、具身交互和能耗效率，需要架构创新和多模态融合突破)11.代码:152.乘积最大子数组