中兴CCN系统部

1．实习介绍2．选一个做的好的实习或者论文讲一下3．了解 RAG 吗， GraphRAG 的做法4．讲一下 FlashAttention 的思想和做法5．讲一下 RoPE ,目前常用的位置编码还有哪些， Ro PE 有什么优点6．场景题：如果要提升大模型的多轮对话能力，你有哪些可以改进的点7．代码题：56．合并区间

1.项目介绍2.讲一下在百度实习期间做的主要工作。3.压缩专家机制是如何实现的？4.用的训练数据集规模分别是多少？5.为什么选择用SFT训练，而不是用RL训练？6.介绍一下 DPO, PPO, GRPO的原理和区别7.PPO的损失是token级别还是sequence级别的？8.PPO中的Critic模型是如何计算优势的？9.讲一下LoRA微调技术原理10.LoRA微调是如何减少训练参数的？11.LoRA技术有哪些优势？12.算法题手撕 三数之和（撕出来了

1.项目拷打为主2.中英文自我介绍3.Sft用了什么方法，如何判断sft效果已经达标了4.从loss上观察是什么样的5.调参是怎么调的，有什么依据6.Lora有哪些参数可以调7.数据标注是怎么标的8.模型输入输出是什么，评价指标是什么9.AIGC项目中的反思模块怎么做的10.全模态的意图识别怎么做的11.涉及到的计算资源规模大概有多少12.全流程耗时指标13.Python元组和列表的区别和相同点14.列表、元组是否可变15.多线程和多进程16.深拷贝和浅拷贝区别17.了解哪些模型的量化方法和加速方法18.编程中常见的设计模式有哪些19.编程题1：把第二个数组合并到第一个数组，使之有序（第一个数组已在后面添加足量的0，需要原地修改第一个数组）20.编程题2：找到一个数组中第n大的数

1.八股：LoRA 和全参数微调的核心区别是什么？在显存和训练效率上各有什么优劣？2.八股：DPO、PPO、GRPO 三者的优化目标有何不同？为什么 GRPO 的 loss 中要显式加入 KL 散度项？3.八股：Transformer Encoder 中 FFN 的作用是什么？4.八股：什么是 DeepSeek 的 MLA？它的优势是什么？5.项目: 你在实习中用 LoRA 微调了哪个开源大模型？具体 rank、alpha、dropout 是多少？为什么这样设置？6.项目：SFT和DPO 数据是否有重叠？DPO 的偏好数据是如何构造的？人工标注成本大概多少？7.项目：你们的 RAG 系统召回阶段用了 BGE-M3 还是 BM25？最终选择依据是什么指标（如 Recall@k）？BGE-M3 输出向量维度是多少？8.项目：为什么不用纯向量相似度直接生成答案，而要再过一遍大模型？这样做对幻觉和安全性有什么帮助？9.手撕：接雨水（LeetCode 42）