字节大模型应用面经

1.自我介绍2.critique mode 怎么训练的，会不会存在 bias3.介绍下 RLHF 流程4.BN和 LN 的区别， BN 在训练阶段和推理阶段有何不同5.如果让你用 llm 做一个商品类目识别的项目，你会如何设计6.介绍下 transformer , attention 的细节和 mlp 的作用7.deepspeed的原理8.了解 dp 和 ddp ，介绍一下原理和异同9.在 nlu 任务上，你觉得 bert 和 llm 哪个效果会更好，为什么6.介绍下 RLHF 流程7. deepspeed 的原理8.了解 dp 和 ddp ，介绍一下原理和异同9.如果让你用 llm 做一个商品类目识别的项目，你会如何设计10.快排的思想，时间复杂度11.代码题: code ：手写一个多分类的公式，并用代码实现📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1、Attention本质是什么？从向量空间变换角度解释 2、多轮对话中Attention如何导致历史信息衰减？ 3、SFT数据清洗的具体流程？遇到低质量数据怎么处理 4、RAG的chunk优化策略有哪些？怎么评估检索相关性 5、DPO训练中的梯度爆炸问题如何解决？ 简历项目深挖： 1、多工具调度模块如何解决冲突检测？ 2、工具调用超时后的降级方案设计 3、自主构建的评估数据集规模？bad case分析维度 4、微调Qwen时如何设计learning rate scheduler 5、Prompt优化模块的A/B测试方案

1．自我介绍＋项目介绍2．讲讲你对 transformer 的了解3．有哪些常用的解码策略， topp 和 topk 的具体细节，以及实现上的差别4. 意图分流的 agent 怎么做微调的，用了多少数据5.如何做 embedding 微调的，如何构造正负样例，训练的 loss 是什么6.RAG有哪些可优化的地方7．你的 RAG 项目中用到了 agent 吗，一般 agent 会用在RAG 链路中的哪些部分8．做 sft 时是怎么做数据配比的，参数具体怎么设置的9.RLHF的流程，有没有训过 PPO10. deepseed 的原理，zero1,2,3怎么做的11.了解过排序模型吗，讲几个经典的排序模型吧12．说一下 vllm 部署8*7B的 MOE 模型每秒大概能推多少token13．对比学习了解吗，讲一下（比较突然，不知道为啥要问）14.code :实现rand5到rand7

基本都是深挖简历重点问你搭建的agent能解决什么场景问题过程中遇到了什么问题怎么解决的手撕：非hot100 但easy投递的时候一定要看岗位偏应用落地还是偏算法，楼主算法功底比较薄弱，没有真实业务场景下的模型训练微调经验，在面试偏算法岗的时候，算法原理和训练过程被追着问。强化学习太重要了，几乎都会问到，还需要继续加强。总结经验：不要只局限于准备简历项目的问答，面试官喜欢提出一个场景可能遇到的问题，让你给出解决方案，所以还需要提升自己思维发散和解决问题的能力。