字节大模型应用面经

1、介绍自己的中厂实习。2、追问实习业务的上下游，以及交付标准、测试集怎么构成:3、追问为什么这个业务要引入大模型，大模型解决了什么问题。4、大模型sft解决不了业务问题吗?为什么还要引入强化学习。强化学习主要解决业务中的什么问题。5、讲一下PPO和GRPO的原理和区别6、如何理解强化学习中熵的概念，如何保证训练过程中熵保持在较高的水平。7、强化学习中调参的经验8、强化学习中on policy和off policy有什么区别?grpo是on policy的吗?如何实习真正的on policy强化学习。9、多模态大模型的训练过程有什么不同?10、多模态大模型的vision encoder一般使用vit的第几层输出?11、mlp和Q-former两个模态融合模块的优劣?12、手撕二叉树层序遍历

浙大98投递背景：9本9硕，1篇2作A, 1篇4作A, 1篇1作在投，半年算法研究实习一面科研经历如何增强多模态模型的识别准确度（比如识别出一个医疗手写表格中的特征与具体值）在用verl做强化学习时，你是根据什么指标来查看训练的进度的。讲一讲你对rag的理解ppo的原理ppo是倾向于将模型往什么方向训练讲一个你最熟悉的模型（讲的deepseek-r1）多模态基础手写多头注意力为什么计算注意力要除以维度decoder-only的结构，输入prompt到输出token的整个过程。有什么办法将2维的embedding转换成3维的embedding,同时保留位置编码信息以后读博还是进入工业界如果有转正...

1、介绍自己的中厂实习2、一面的部分实习问题这里也问了。3、有没有试过外挂数据库来解决线上业务数据分布更新较快的问题，4、模型选型问题，为什么选qwen3-8b，如何估算模型开销。5、最多做过几卡的模型训练?对deepspeed和Megatron有多少了解?6、接触过哪些推理加速的方法。(vllm的page-attention, kv cache, prefix cachemla，flash-attention直接安排一套)7、一个他们组里面的一个具体场景题。8、手撕k个一组反转链表，并要求最后不足k个的也反转。

1、Attention本质是什么？从向量空间变换角度解释 2、多轮对话中Attention如何导致历史信息衰减？ 3、SFT数据清洗的具体流程？遇到低质量数据怎么处理 4、RAG的chunk优化策略有哪些？怎么评估检索相关性 5、DPO训练中的梯度爆炸问题如何解决？ 简历项目深挖： 1、多工具调度模块如何解决冲突检测？ 2、工具调用超时后的降级方案设计 3、自主构建的评估数据集规模？bad case分析维度 4、微调Qwen时如何设计learning rate scheduler 5、Prompt优化模块的A/B测试方案