1、实习介绍2、项目介绍1.序列建模里新增序列的入图方式，为什么考虑这种入图方式2.rankmixer相比于传统transformer优点以及为什么rankmixer更适合 scalingup，模型在哪部分接入的rankmixer(底层or顶层)3.gmv优化怎么做的，最终上线的是哪个主要看什么离线指标4.特征删除和简化结构怎么考虑3、手撕k个一组反转链表4、反问问了业务

请问一面后多久二面呀，今天刚一面完上卡软开

1.项目介绍2.Qwen- VL 的训练流程是怎样的3.讲一下大模型的训练流程，多模态大模型的视觉特征传递给 LLM 都有哪些方法4.ViT 一般怎么预训练5.多模态 RAG 介绍一下6.对于不同形状的图片或视频，位置编码怎么设计7.在 ResNet 或者 Transformer 中，残差连接的作用是什么，展开讲讲8.开放题：大模型在训练和推理的时候显存不够，有哪些优化方法9.代码：215．数组中的第 K 个最大元素

1.你的 Agent 系统Prompt 是怎么设计和迭代的？有没有做过 Prompt 自动优化？当用户提出不完整的请求时，如何补全用户意图的？2.构建 Agent 的时候，遇到过哪些瓶颈？LangChain 的 memory 默认机制在多3.用户并发中怎么做隔离？你是如何保证线程安全的？4.微调 Llama2 你是怎么选择训练样本的？清洗逻辑是什么？你有没有观察到哪些训练样本质量问题对模型行为有很大影响？举例说明。5.DPO相比 SFT，有哪些优劣？它在 Agent 任务上效果提升明显吗？你怎么构造偏好对？构造逻辑是自动的还是人工？6.你说你服务部署在 vLLM 上，为何选择它？KV-cache 如何帮助推理加速？你自己做过哪些优化？7.假如需要支持 Streaming 输出，但当前服务延迟又超标，你会怎么折中设计？8.多轮对话上下文状态管理是如何做的？如何在高并发场景下保证一致性？9.你做的 Agent 使用了多少个外部工具，在调用链条上如何保障故障容错和超时机制？10.有没有做过工具调用失败后的feedback策略设计？11.训练过程中数据来自用户行为日志，你是如何从这些数据中抽取训练对话的？有没有做过归一化或事件抽象？12.有没有了解过带有时间窗口/偏移限制的对话系统？模型怎么“理解时间”？13.你觉得 Agent 哪些模块最容易在真实业务中出问题？你会如何监控和定位的？

1、项目介绍2、字节实习3、序列建模是用的什么结构4、目前的baseline是什么，模型复杂化怎么做的5、接入的特征具体是什么6、gmv优化怎么做的，介绍一下几个损失函数7、美团实习8、具体工作介绍，最终评价指标是什么9、手撕最长回文子串10、反问

一面： 1.项目拷打为主，问得很细2.项目为什么不考虑端到端方案3.整个项目用了哪些模型4.训练范式及输入输出5.Grpo奖励怎么设计的，为什么6.语义等价如何处理7.涉及多少计算资源（有多少卡），是否涉及并行计算，如何提高效率8.调参具体是怎么做的，调了哪些，为什么这么调？9.PPO、DPO是否了解，为什么要用GRPO10.分流护栏怎么做的11.AIGC绘图项目用了哪些数据，怎么来的，是否有做预处理12.大模型做数据检验你是怎么做的13.Agent是否做过上下文优化14.是否做过对Agent整体的微调15.科研项目，最后的输出是什么16.科研项目中的意图识别是怎么做的17.介绍贝尔曼方程18.手撕：给一个正整数数组，找出里面能被3整除的和的最大值。时间原因没有写，只让讲讲思路

1.讲讲itemcf、usercf分别是怎么计算的2.讲讲双塔模型是怎么计算的?推理的时候，faiss是怎么计算的?3.讲讲 batch负采样和随机负采样4.讲讲DIN模型的原理5.讲讲DeepFM，以及如何降低时间复杂度6.讲讲MMoE和PLE的区别7.讲讲Focal Loss8.多目标之间的权重是怎么确立的?9.讲讲RO-VAE和RO-Kmeans的结构?这两个效果哪个好?为什么项目中选择RQ-Kmeans10. Transformer吟唱11.Transformer和RNN的区别是什么?12.自注意力怎么计算的?时间复杂度是多少?13.梯度爆炸和梯度消失是什么?怎么解决?14.正则化的作用是什么15.BN、LN分别是什么?有什么区别?16.进程和线程的区别?17.TCP和UDP的区别?18.手撕:Ic 394.字符串解码19.反问:汽车推荐 广告推荐方面

1. 第一段实习的核心任务与业务目标分别是什么？2. 四塔多目标方案相较经典双塔在 CTR/跨类目召回上带来哪些可量化收益？3. 离线样本构造、天级更新流程及线上特征滞后补偿机制如何设计？4. 用户塔输入特征列表中，哪些对跨类目效果拉动最大？上线后除 AUC 还重点监控哪些业务指标？5. 多模态向量维度规模多大？全量推涨后提升显著的根因分析结论是什么？6. 商品塔接入多模态 encoder 后为何离线指标下滑？定位到哪个环节？7. 第二段实习的特征清洗链路如何缩短 40%？混合负采样的 hard 比例与动态策略、loss、激活函数分别如何选型并对比？8. 是否尝试过 MMoE 等专家网络？专家数量与推理延迟增量各是多少？9. 推荐场景下除 dropout 外的两种过拟合抑制手段10.Transformer 各子层功能及去掉 FFN 的影响11. 编码：在已排序数组中用 O(log n) 实现目标值的左右边界查找

1.热门、分类、高分三个任务是互斥的吗?有没有做过测试，看热门和高分之间的gap，因为有些热门电影和高分电影有很大的重叠2.DeepFM中的FM和人工特征交又有什么区别?DeepFM在工业界很少用，因为特征交叉的数量太多了，应该怎么处理?a.模型比较老，现在工业界基本不用FM，因为特征交叉得到的特征太多了，一般都是魔改3.几个数据集的大小是多少?4.Gradnorm的原理是什么?工业界一般不这么用，因为这个gradnorm比较trick5.为什么使用RO-KMeans?因为RO-VAE会疯狂坍塌，坍塌现象很严重，所以只能使用RO-KMeans来做。可以看看其他生成sid的方式:a.比如第一层直接按照类别分类，之后再使用均衡KMeans6.为什么使用CLIP来实现多模态?选择CLIP的原因?手撕:Hot 46.全排列 [1,2,3]有多少种全排列?Hot 56.合并区间

1．项目介绍，过实习和论文2．知道哪些强化学习算法，除了 PPO和 DPO 这些呢3. 知道 LoRA 的原理吗， A 和 B 两个矩阵怎么初始化，有了解过其他的初始化方法吗4．除了 DeepSpeed ，还用过其他的什么优化方法吗5．ZeRO -1, ZeRO -2,ZeRO -3三个模式的区别6．讲一下 RLHF 的流程，之前有用 RLHF 做过模型对齐吗7．当时你用 DeepSpeed ZeRO -3来微调Qwen2-72B，每一张卡占用的显存大概是多少，估算一下为什么是占这么多的显存8. 在微调 Qwen 的时候，数据是怎么构造的9.代码：无重复字符的最长子串

1.项目介绍2. RoBERTa做了哪些改进3.什么是ROI2？什么是增量推广4.怎么构建负样本的5. PLE之后的多任务模型还有了解吗6.指标对比baseline提升主要来自于什么7.模型拆分前后的结构变化8. MMOE、PLE的区别9. Uplift 模型长什么样？它的输入输出是什么10. AUC 算方法两种；写公式就行11.反问：组内工作

1. 实习介绍2. transformer为什么比RNN好，有没有scaling law3. 介绍一下新闻推荐的项目4. 新闻推荐比赛的正负样本怎么确定5. 了解生成式推荐吗？6. SID如何训练的7. Tiger为什么不采用decoder-only的形式呢8. 手撕：接雨水

1.项目介绍2.说一下 LoRA 是什么原理3.了解 DeepSpeed 吗， ZeRO -1, ZeRO -2和 ZeRO -3分别做了哪些优化4.Qwen的模型结构是怎么样的，相比于 LLaMA , DeepSeek 有什么区别5.怎么缓解大模型的幻觉问题6.大模型的 MoE 结构相比于 Dense 结构训练的难点在什么地方， DeepSeekMoE 为什么效果好，有什么值得我们借鉴创新点7.知道FP16和BF16有什么区别吗，包括FP32和INT8这些，在训练大模型的时候，应该怎么选择8.讲一下 RLHF 的流程， PPO 和 DPO 算法是什么思想，写一下 PPO 和 DPO 的 Loss 表达式9.对于超长上下文业界一般是怎么做的，你知道 Qwen 是怎么做的吗10.开放题：你觉得目前大模型的上限在哪里11.代码：152．乘积最大子数组

项目 介绍其中一段实习，没问啥问题其他1. 实习都是什么原因离职2. 你觉得大模型和之前AI比本质解决什么问题，大家期待如此高3. 自己用过哪些AI类的产品，coding类的有用吗4. cursor类的AI产品能解决什么问题5. 有驾照吗，对车有什么了解吗6. 能提前来实习吗7. 对base地有哪些要求8. 描述一下你想去的公司是什么样的反问1. 业务聚焦点2. 重头戏是toB还是toC