用户画像算法工程师

1.八股：大模型框架了解哪些，介绍下vllm原理2.八股：常用的LLM，讲解DeepSeek R1的训练流程和基本原理。3.八股：讲讲MOE架构和Dense架构差异，在训练和推理方面4.项目：介绍实习项目，项目中有没有做微调？5.项目：DPO，PPO和GRPO的区别6.项目：为什么PPO要用value baseline和GAE？它们如何让训练更稳定？7.项目：为什么GRPO在训练MOE时会出问题？原因是啥，怎么改进策略8.项目：GRPO的KL散度是什么？KL散度中超参数如何设计？9.项目：阐述大模型的幻觉现象及抑制方法。10.代码题：lc300 最长递增子序列

1.八股：vLLM中使用的技术是否熟悉（如Paged Attention、KV Cache）？2.八股：了解加速推理框架DeepSpeed吗？3.八股：MoE模型专家的负载不均衡问题如何解决？4.八股：如何通过修改损失函数来解决负载均衡问题？5.项目：SFT使用的数据集，使用了多少张卡？SFT训练多久？6.项目：SFT 的数据集是越大越好吗？会存在scaling law 吗？7.项目：SFT使用的数据可能和原始模型预训练时的数据分布有较大区别，怎么解决？8.项目：讲一下LoRA微调的原理，A、B矩阵怎么初始化的，LoRA微调秩设置的是多少9.项目：讲一下什么场景下用SFT，什么场景下用RL10.项目：为什么使用强化学习会存在训练不稳定问题？为什么业界还在用？11.代码题：lc129 求根节点到叶节点数字之和

1.八股：介绍几种Attention（MHA，MQA，GQA）的区别2.八股：分别讲一下Dense模型和MoE模型以及二者的区别3.八股：讲一下MoE的路由机制是如何做的？4.项目：介绍RAG项目，讲一下RAG项目的亮点5.项目：如果召回的答案不是想要的，该怎么处理？6.项目：讲一下BM25算法原理7.项目：是否做过意图识别？如果要做意图识别，可以怎么实现？8.项目：微调项目是如何模型选型9.项目：如何做微调的？直接用 PEFT 库，还是用LLama Factory做的？10.项目：讲一下DPO, PPO, GRPO的原理和区别，写一下DPO loss函数11.代码题：lc15 三数之和

1.你的 Agent 系统Prompt 是怎么设计和迭代的？有没有做过 Prompt 自动优化？当用户提出不完整的请求时，如何补全用户意图的？2.构建 Agent 的时候，遇到过哪些瓶颈？LangChain 的 memory 默认机制在多3.用户并发中怎么做隔离？你是如何保证线程安全的？4.微调 Llama2 你是怎么选择训练样本的？清洗逻辑是什么？你有没有观察到哪些训练样本质量问题对模型行为有很大影响？举例说明。5.DPO相比 SFT，有哪些优劣？它在 Agent 任务上效果提升明显吗？你怎么构造偏好对？构造逻辑是自动的还是人工？6.你说你服务部署在 vLLM 上，为何选择它？KV-cache 如何帮助推理加速？你自己做过哪些优化？7.假如需要支持 Streaming 输出，但当前服务延迟又超标，你会怎么折中设计？8.多轮对话上下文状态管理是如何做的？如何在高并发场景下保证一致性？9.你做的 Agent 使用了多少个外部工具，在调用链条上如何保障故障容错和超时机制？10.有没有做过工具调用失败后的feedback策略设计？11.训练过程中数据来自用户行为日志，你是如何从这些数据中抽取训练对话的？有没有做过归一化或事件抽象？12.有没有了解过带有时间窗口/偏移限制的对话系统？模型怎么“理解时间”？13.你觉得 Agent 哪些模块最容易在真实业务中出问题？你会如何监控和定位的？