1.介绍RAG项目2.怎么解决LLM幻觉问题3.LLM的参数介绍（temp topk top p等）4.LLaMA和GLM的区别，模型架构等方面5.Qwen模型每个版本之间的改进点6.介绍检索做的优化，具体追问子问题分解怎么做，有没有做意图识别7.RAG怎么评估，指标有哪些8.RAG如果有噪声怎么办9.怎么构建SFT数据集，数据量多少，微调方式是什么10.SFT数据问题不够多样化怎么办11.介绍一下function calling和MCP12.代码题：lc215 数组中的第 K 个最大元素

1.项目介绍2.实习介绍3.决定现在基模能力的方面有哪些?4.DP和DDP°区别5.t维度的rope是怎么做的?6.wan的结构、hunyuan 的结构cogvideo-x的结构7.现在的condition注入怎么做的?8.qwen-image-edit请你解释一下9. wan2.1wan2.2、cogvideoxhunyuan的结构差异?哪个结构更好?10.Deepspeed的三阶段zero介绍一下11.手撕:casual-selfAttention

1.实习介绍2.讲讲hstu3.讲讲transformer encoder4.端到端生成式推荐面临哪些挑战5.讲讲DIN 和SIM6.SlM中hard search和soft search的优劣7.attention公式以及计算时间复杂度8.为什么使用pairwise的交叉熵不用pointwise的交叉熵9.讲讲交叉熵公式10.数据标注准确度和选取数据时多样性存在的一些问题要怎么解决11.手撕:三数之和12.想在本次实习收获什么13.反问

1.实习项目介绍2.算法题:最长有效括号，用dp做3.介绍觉得做的最有深度的项目4.为什么会用rqvae5.llm embedding如何更好引入6. auc gauc7.长序列 target attention好处8.生成式在精排混排怎么用9.反问:业务 base地

一面： 1.请介绍一下Transformer的核心组件及其作用2.介绍LLM Decoder-Only架构3.你对SFT的理解是什么？与预训练相比有什么差异？4.SFT冷启动时数据集构造需要注意哪些因素？为什么要做数据清洗与均衡采样？5.介绍一下RAG的整体流程。在Agent落地场景中，RAG会遇到哪些延迟和正确率问题？你怎么优化召回链路？6.在你的问答Agent项目中，数据集构造的自动化流程是怎么实现的？7.你是如何利用多Agent协同来提高推理正确率的？调度策略如何实现？8.你提到用DeepSpeed做SFT训练，请讲一下DeepSpeed ZeRO Stage 1-3的区别，以及什么时候用FSDP会更好？9.你做Prompt优化时，是如何判断优化后的Prompt在Agent推理链路中性能提升的？用什么指标来衡量？10.在多Agent系统中，如何保证异步任务执行的稳定性和结果一致性？11.如果Agent推理API需要低延迟响应，你会从哪些方面做系统级优化？代码题：lc34.在排序数组中查找元素的第一个和最后一个位置

一面: 1.面试官对实验室的横向项目完全不感兴趣，对前一段实习项目兴趣比较大2.详细问了实习项目的细节3.之前实习做过用户画像这一块，与现在面试的岗位工作职责有交叉，于是详细问了这一部分是怎么做的4.Encoder与decoder的中Attention区别？5.Attention如何计算？为什么除以根号下Dk？mask attention是如何实现的？6.除了MHA还知道哪些(GQA MQA MLA)讲原理7.为什么要用位置编码？为什么要用sin_cos？8.问之前实习的Agent的设计逻辑，问创新方法的实现9.问Agent的工具tool的设计，是否是workflow形式10.问数据的输入输出格式如何保证大模型输出稳定的json做了哪些工作11.代码题：合并两个有序链表

实习和项目 1.精排基线模型的结构2.DIN 的原理，有什么优势3.DIN 有哪些变种4.attention 中的 normalization 是如何做的，有哪些做法5.欠拟合和过拟合6.知识蒸馏的作用7.粗精排一致性是越高越好吗8.模型样本流是什么样子的9.辅助 loss 如何与主任务融合10.是否了解 OneRec11.讲讲自己对语义 ID 的理解coding编程题: leetcode 300. 最长递增子序列 （hot100 中等题）编程题: leetcode 315. 计算右侧小于当前元素的个数 （非 hot100 困难题）反问

Q1：两种建模方案：1 用一些特征建模预估一个中间目标，将该中间目标作为特征预测最终目标；2 用所有特征训练一个复杂的端到端模型直接预测最终目标，两种方案各有什么优劣？Q2：测试集如何选择？如何判断测试集和应用场景是一致的（无偏的）？模型的离在线效果差异如何解决？Part2 推荐问题Q3：召回和粗排的主要作用？为什么不直接用精排？Q4：怎么评估粗排模型的好坏？粗排怎么做冷启动？Q5：B站首页推荐模型可能包含哪些目标作为精排融合分的项？Part3 LeetCodeQ6：k个有序链表合并，时间复杂度Q7：打家劫舍，状态转移方程的含义

一面 : 1.项目介绍2.简历拷打3.双塔可以用于哪些环节?你觉得目前对双塔模型的研究还存在哪些问题?4.手推-下MSE的梯度回传?为什么01分类问题不能用MSE?5.长序列建模除了sim还了解哪些?6.场景迁移学习的思路有哪些?7.实习项目的收益点主要来自哪里?后续怎么继续迭代?8. 代码: 分发糖果9.代码:买卖股票的最佳时机二面1.项目拷打2.讲一下你对rankmixer的理解?3.对lm4rec的后续迭代方向有什么见解?4.讲一下最近很火的onerec?你认为onerec对你工作最大的启发是啥?5.attention为什么要除以根号dk?6.如果你这个项目资源足够的话，有没有考虑过直接端到端训练?7.代码:手撕多头注意力机制

1.项目介绍2.wide&deep 的wide侧和deep侧各自作用3.一般wide侧和deep侧用哪些模型4.DIN的机制5.DIN的attention和transformer一样吗，怎么计算的6.项目数据量多少，各个目标分别正样本有多少7.数据处理部分详细讲8.用户历史行为序列如何构建9.模型在遇到正负样本悬殊的时候会遇到什么样的问题，怎么解决手撕：1.快排，讲解时间复杂度，什么时候最差2.两种方法做 最长有效括号（dp，栈）

1.为什么要用 decoder架构 为什么不用甬encoder-decoder(每次被问到回答不太好，onerec v1用的e-d，v2用了gqaattention的decoder，flops才降很多没用的反而flops超高，所以也不好说decoder only能节省计算资源)2.输入是什么样的?会不会出现序列长度很长的问题3.ra vae四层码本能否确保唯一性?训练过程有没有出现码本坍塌(每次我会说rqvae是其他团队训练的但是还是会问我训练细节，只能说一些理论上我知道的)4.dpo loss是怎么优化的为什么不用ppo5.原始的多模态表征和id表征是怎么联合训练的 表征的参数是更新的吗6.预训练阶段的两个loss是什么7.是怎么解决收敛速度不一致这个问题的代码题给一个先升序再降序的数组，求最大值的下标

1.实习项目介绍2.手撕权重采样 ，没想出来就换了个题，最长连续子数组3.机器学习八股4.介绍论文+项目5.拷打八股：6.评估模型的指标（分类任务、回归任务）7.过拟合了解吗？8.L1/L2的区别？为什么会有影响，从数学的原理讲一下？9.特征选择了解吗？10.激活函数（sigmoid、relu）了解吗？11.损失函数的优缺点、损失函数了解多少？12.微调方法了解多少？硬面1小时反问：

一、少量八股1.介绍下self-attention，计算其时间复杂度。2.为什么要用multi-head attention？3.kv cache是什么？它为什么能极大地提升推理速度？4.PPO的clip机制？在线强化学习和离线强化学习有什么区别？RLHF是哪一种？5.为什么要用reference model?为了解决什么问题？二、项目深挖1.如何让多个agent协同工作的？举个具体的协同机制例子。2.如果一个agent误判导致策略冲突，如何处理？3.你们有没有用到类似AutoGen或LangChain的框架？为什么选这个框架？4.你是怎么设计agent的记忆系统？5.长期记忆如何存储？如果历史记录量非常大，怎么优化查询效率？6.有没有做记忆衰退，避免旧数据干扰新任务？7.你们这种模块堆叠的架构是怎么设计视觉问答模块和动作模块的协同逻辑的？8.你简历里的人机协作流程，具体是什么意思？怎么设计人工干预与agent自动处理的平衡？9.human feedback是怎么被agent消化吸收的？有没有用rl进行策略更新？三、业务理解1.有没有做过模型压缩？比如在车载端或低端设备上的推理加速？2.如果量化后理解能力下降怎么办？怎么做精度补偿？3.你怎么处理响应速度与推理精度之间的tradeoff？是先召回再精排，还是单次生成？4.如果要做电商agent，你会选择哪些模态的信息作为输入？比如文本评论、图像、视频、购买记录？5.有没有做过A/B测试？

一面/二面 压力都不大，只有一些八股值得参考：1.交叉熵损失的物理含义是什么？2.KL散度的本质是什么？3.用什么loss比较多？我说一般就mse，又通过focal loss，让我接着介绍，如何平衡正负样本。三面，我以为轻松了结果是最硬核的技术面，问了一堆八股，并且要求现写公式，不到最后都不能放松警惕啊：1.讲讲python的dict底层是怎么实现的？hash实现2.如何解决hash碰撞？说了个线性探测（其他真不记得了）3.C++的STL还熟悉吗？完全不会，3年没写了。4.好吧那不问了，flash-attention了解吗，讲讲原理？5.kv cache了解吗？6.Q要cache吗？7.讲讲常见的标准化，LayerNorm，RMSNorm？8.实际应用你觉得什么区别吗，现在哪个用的多？9.问了这么多才开始讲项目，等我讲完面试官直接总结，你的项目是在高维特征添加了一些low-level的视觉信息做work，现在有个开放的问题想问你：大模型的语料是有限的，但是搜推链路上token可能是无限的，比如可能一个蛋糕，每个用户的每一次蛋糕购买记录都是独立的，蛋糕1，2...100，你要如何解决？10.似乎我没理解对，追问不对不是这个意思，重新问：大模型的数据是非常多的，但是搜推的数据可能很高维度而且不多，比如用户看到图->点击右上角->再点到推荐购买->.......，整个特征链路非常长，这种数据量不像大模型训有非常丰富的语料，你如何解决这个训练问题？