1.八股：一个7B参数的大语言模型，在训练和推理时分别需要多少显存？影响显存占用的关键因素有哪些？2.八股：SFT 阶段，7B 和 70B 模型的学习率设置通常有何不同？背后的原理是什么？3.项目：DPO 训练过程中，你会重点关注哪些评估指标？为什么？4.项目：训练一个基于 pair 对的 reward 模型，loss 函数怎么写？如果是非 pair 形式（只标注最优 response），loss 又该如何设计？5.项目：DPO数据构造中常出现正负样本不均衡问题，你有哪些解决方案？6.项目：用DPO缓解幻觉时，如果反而引入了新的幻觉，可能是什么原因？7.项目：DPO中的beta参数代表什么？过大或过小会带来什么影响？8.项目：你在微调时是否观察过不同层的梯度差异？9.项目：不同参数高效微调方法（如 LoRA vs Adapter）在你的任务上效果对比如何？

1.部门介绍与自我介绍2.介绍一下Causal Impact模型，从哪两个方面证明实验组和对照组是同质的，是否有考虑其他因素对它的影响导致的波动(但是没超出95%置信区间)，如何分析这些波动?是否有考虑有类似混杂因子导致负负得正的情况?3.LR为什么适用于二分类问题?MSE能用于分类问题吗?在分类问题中交叉相较子MSE的优势在哪?对于不平衡数据集，过采样欠采样方法和对不同类型样本加权的方法是等价的吗?区别在哪里?AUC怎么理解和几种计算?4.介绍一下你的论文，为什么在DQN里面它的价值函数采取的都是近似的表示方法?Q函数的两种表示方法?目标值很大怎么解决?描述一下DQN训练的算法流程。5.手撕问题:10个小球随机分到12个盒子里，求恰好10个盒子都为空的概率。分别用python和直接计算概率实现。6.反问环节:工作内容【发论文和做策略研究】，我的进步空间【要会基本的库如random之类的，有工程实现能力】，几天出结果【1-2天内通过hr】

1. 项目介绍2. 介绍实习项目，介绍的期间穿插提问离线实验主要用什么指标来验证，有接触线上吗等等3. 特征优选是怎么做的，为什么要这么做，出发点是什么4. 能介绍一下哪些特征是比较重要的吗，覆盖率？5. 介绍一下多目标推荐，怎么解决跷跷板问题6. 简单介绍你知道的序列建模7. 算法题：最大连续子集长度8. 反问环节，纯聊天，这里我和面试官聊了20分钟

1、实习介绍2、项目介绍1.序列建模里新增序列的入图方式，为什么考虑这种入图方式2.rankmixer相比于传统transformer优点以及为什么rankmixer更适合 scalingup，模型在哪部分接入的rankmixer(底层or顶层)3.gmv优化怎么做的，最终上线的是哪个主要看什么离线指标4.特征删除和简化结构怎么考虑3、手撕k个一组反转链表4、反问问了业务

请问一面后多久二面呀，今天刚一面完上卡软开

1.项目介绍2.Qwen- VL 的训练流程是怎样的3.讲一下大模型的训练流程，多模态大模型的视觉特征传递给 LLM 都有哪些方法4.ViT 一般怎么预训练5.多模态 RAG 介绍一下6.对于不同形状的图片或视频，位置编码怎么设计7.在 ResNet 或者 Transformer 中，残差连接的作用是什么，展开讲讲8.开放题：大模型在训练和推理的时候显存不够，有哪些优化方法9.代码：215．数组中的第 K 个最大元素

1.你的 Agent 系统Prompt 是怎么设计和迭代的？有没有做过 Prompt 自动优化？当用户提出不完整的请求时，如何补全用户意图的？2.构建 Agent 的时候，遇到过哪些瓶颈？LangChain 的 memory 默认机制在多3.用户并发中怎么做隔离？你是如何保证线程安全的？4.微调 Llama2 你是怎么选择训练样本的？清洗逻辑是什么？你有没有观察到哪些训练样本质量问题对模型行为有很大影响？举例说明。5.DPO相比 SFT，有哪些优劣？它在 Agent 任务上效果提升明显吗？你怎么构造偏好对？构造逻辑是自动的还是人工？6.你说你服务部署在 vLLM 上，为何选择它？KV-cache 如何帮助推理加速？你自己做过哪些优化？7.假如需要支持 Streaming 输出，但当前服务延迟又超标，你会怎么折中设计？8.多轮对话上下文状态管理是如何做的？如何在高并发场景下保证一致性？9.你做的 Agent 使用了多少个外部工具，在调用链条上如何保障故障容错和超时机制？10.有没有做过工具调用失败后的feedback策略设计？11.训练过程中数据来自用户行为日志，你是如何从这些数据中抽取训练对话的？有没有做过归一化或事件抽象？12.有没有了解过带有时间窗口/偏移限制的对话系统？模型怎么“理解时间”？13.你觉得 Agent 哪些模块最容易在真实业务中出问题？你会如何监控和定位的？

1、项目介绍2、字节实习3、序列建模是用的什么结构4、目前的baseline是什么，模型复杂化怎么做的5、接入的特征具体是什么6、gmv优化怎么做的，介绍一下几个损失函数7、美团实习8、具体工作介绍，最终评价指标是什么9、手撕最长回文子串10、反问

一面： 1.项目拷打为主，问得很细2.项目为什么不考虑端到端方案3.整个项目用了哪些模型4.训练范式及输入输出5.Grpo奖励怎么设计的，为什么6.语义等价如何处理7.涉及多少计算资源（有多少卡），是否涉及并行计算，如何提高效率8.调参具体是怎么做的，调了哪些，为什么这么调？9.PPO、DPO是否了解，为什么要用GRPO10.分流护栏怎么做的11.AIGC绘图项目用了哪些数据，怎么来的，是否有做预处理12.大模型做数据检验你是怎么做的13.Agent是否做过上下文优化14.是否做过对Agent整体的微调15.科研项目，最后的输出是什么16.科研项目中的意图识别是怎么做的17.介绍贝尔曼方程18.手撕：给一个正整数数组，找出里面能被3整除的和的最大值。时间原因没有写，只让讲讲思路

1.讲讲itemcf、usercf分别是怎么计算的2.讲讲双塔模型是怎么计算的?推理的时候，faiss是怎么计算的?3.讲讲 batch负采样和随机负采样4.讲讲DIN模型的原理5.讲讲DeepFM，以及如何降低时间复杂度6.讲讲MMoE和PLE的区别7.讲讲Focal Loss8.多目标之间的权重是怎么确立的?9.讲讲RO-VAE和RO-Kmeans的结构?这两个效果哪个好?为什么项目中选择RQ-Kmeans10. Transformer吟唱11.Transformer和RNN的区别是什么?12.自注意力怎么计算的?时间复杂度是多少?13.梯度爆炸和梯度消失是什么?怎么解决?14.正则化的作用是什么15.BN、LN分别是什么?有什么区别?16.进程和线程的区别?17.TCP和UDP的区别?18.手撕:Ic 394.字符串解码19.反问:汽车推荐 广告推荐方面

1. 第一段实习的核心任务与业务目标分别是什么？2. 四塔多目标方案相较经典双塔在 CTR/跨类目召回上带来哪些可量化收益？3. 离线样本构造、天级更新流程及线上特征滞后补偿机制如何设计？4. 用户塔输入特征列表中，哪些对跨类目效果拉动最大？上线后除 AUC 还重点监控哪些业务指标？5. 多模态向量维度规模多大？全量推涨后提升显著的根因分析结论是什么？6. 商品塔接入多模态 encoder 后为何离线指标下滑？定位到哪个环节？7. 第二段实习的特征清洗链路如何缩短 40%？混合负采样的 hard 比例与动态策略、loss、激活函数分别如何选型并对比？8. 是否尝试过 MMoE 等专家网络？专家数量与推理延迟增量各是多少？9. 推荐场景下除 dropout 外的两种过拟合抑制手段10.Transformer 各子层功能及去掉 FFN 的影响11. 编码：在已排序数组中用 O(log n) 实现目标值的左右边界查找

1.热门、分类、高分三个任务是互斥的吗?有没有做过测试，看热门和高分之间的gap，因为有些热门电影和高分电影有很大的重叠2.DeepFM中的FM和人工特征交又有什么区别?DeepFM在工业界很少用，因为特征交叉的数量太多了，应该怎么处理?a.模型比较老，现在工业界基本不用FM，因为特征交叉得到的特征太多了，一般都是魔改3.几个数据集的大小是多少?4.Gradnorm的原理是什么?工业界一般不这么用，因为这个gradnorm比较trick5.为什么使用RO-KMeans?因为RO-VAE会疯狂坍塌，坍塌现象很严重，所以只能使用RO-KMeans来做。可以看看其他生成sid的方式:a.比如第一层直接按照类别分类，之后再使用均衡KMeans6.为什么使用CLIP来实现多模态?选择CLIP的原因?手撕:Hot 46.全排列 [1,2,3]有多少种全排列?Hot 56.合并区间

1．项目介绍，过实习和论文2．知道哪些强化学习算法，除了 PPO和 DPO 这些呢3. 知道 LoRA 的原理吗， A 和 B 两个矩阵怎么初始化，有了解过其他的初始化方法吗4．除了 DeepSpeed ，还用过其他的什么优化方法吗5．ZeRO -1, ZeRO -2,ZeRO -3三个模式的区别6．讲一下 RLHF 的流程，之前有用 RLHF 做过模型对齐吗7．当时你用 DeepSpeed ZeRO -3来微调Qwen2-72B，每一张卡占用的显存大概是多少，估算一下为什么是占这么多的显存8. 在微调 Qwen 的时候，数据是怎么构造的9.代码：无重复字符的最长子串

1.项目介绍2. RoBERTa做了哪些改进3.什么是ROI2？什么是增量推广4.怎么构建负样本的5. PLE之后的多任务模型还有了解吗6.指标对比baseline提升主要来自于什么7.模型拆分前后的结构变化8. MMOE、PLE的区别9. Uplift 模型长什么样？它的输入输出是什么10. AUC 算方法两种；写公式就行11.反问：组内工作