1.自我介绍和部门介绍+实习时长询问2.代码题3.梯度提升和梯度下降有什么区别和联系4.为什么会出现梯度消失和梯度爆炸这两个现象5.召回和排序的作用与区别6.为什么用并联的双塔模型，介绍一下DIN的注意力池化，他和Transformer的selfattention有什么区别7.在成本不超过b的条件下，发N张优惠券，预估收益是R，如何建模最大化R8.反问环节

1.八股：NLP和LLM最大的区别是什么？两者有何共同和不同之处？2.八股：激活函数有了解吗，你知道哪些LLM常用的激活函数？为什么选用它？3.八股：开源框架了解过哪些？Qwen，Deepseek的论文是否有研读过，说一下其中的创新点主要体现在哪？4.项目：介绍微调负责的工作，大模型微调最重要的是什么？5.项目：SFT+DPO训练怎么组织这部分数据的？是自己构造还是用公开数据？6.项目：看你做过LoRA微调，那你是怎么选rank值？合并adapter权重的时候有没有遇到梯度爆炸？7.项目：说下LoRA的原理，LoRA是不是只能在Linear层插？为什么不能插在LayerNorm之后？这会对训练稳定性造成什么影响8.项目：刚才提到用过QLoRA，能具体说说QLoRA是怎么降低资源成本吗？9.项目：llm推理效率，如果真的部署到在线系统里，这个效率的问题怎么解决呢10.项目：有没有尝试过模型裁剪？比如 low-rank adaptor、LoRA 融合，或者用Mamba替换部分token path？11.代码题：实现Casual mask的MHA，说下计算复杂度

1. Encoder与Decoder中注意力机制存在哪些差异？2. 注意力机制的计算流程是怎样的，为何在计算时要除以根号下Dk，掩码注意力机制又是怎样达成的？3. 阐述GQA、MQA、MLA的原理分别是什么。4. 位置编码的必要性体现在哪里，为何选用sin_cos函数进行位置编码？5. 询问之前实习中Agent的设计思路，以及所提创新方法的实现方式。6. 提及使用DeepSpeed开展SFT训练，请说明DeepSpeed ZeRO Stage 1 - 3的不同之处，以及何种情况下使用FSDP更为合适。7. 询问Agent工具的设计情况，是否采用workflow形式。8. 了解哪些Agent开发框架，像langchain和LlamaIndex，它们的核心应用场景有何区别？9. 针对数据输入输出格式，为保证大模型输出稳定json格式，采取了哪些措施？10. 若Agent推理API需要低延迟响应，会从哪些方面开展系统级优化工作？11. 代码考察：给出LeetCode第34题，在排序数组中查找元素的第一个和最后一个位置

本来已经打算签字节了，结果多多来了个大sp，作为双非本，真的感到太不容易了总包比字节高了将近20W，现在开始纠结了，多多给钱多，但作息也真的很紧jrm，怎么选啊？

1.为什么用责任链模式，有哪些好处, 项目中有没有其他的设计模式？2.mysql 有那些索引？你觉得 innodb 索引为什么用 b+树 而不是红黑树，其他的引擎的索引有了解吗？ 举一个你项目中遇到的使用组合索引的例子，为什么选择这些字段？建立索引的时候选取字段有哪些要注意的？3.消息幂等组件库怎么做的？ 为什么用消息队列？ 除了 rocketmq 其他的有了解吗 ？ 现在有这么一个场景，你刚才讲的本地消息表的 消息 是存在 redis 的， 如果突发流量打垮服务器怎么办，说一个你认为的优化方案？ai 项目：1.为什么做这个项目？你考虑的点在哪里？对自己使用的技术怎么样去了解的，比如向量数据库等（这里自己提的）2.RAG 流程3.embedding 之前的向量化怎么做的有没有了解？项目里面openai 的这个模型的向量化怎么做的（后面这个自己补充的）八股： jvm 的逻辑分区了解过吗？经历过怎么样的变化？g1 和 cms 的区别 ？ 堆区详细的划分知道吗？手撕： 二叉树层序遍历 10 min

1．自我介绍，过实习和论文2．知道哪些强化学习算法，除了 PPO和 DPO 这些呢3. 知道 LoRA 的原理吗， A 和 B 两个矩阵怎么初始化，有了解过其他的初始化方法吗4．除了 DeepSpeed ，还用过其他的什么优化方法吗5．ZeRO -1, ZeRO -2,ZeRO -3三个模式的区别6．讲一下 RLHF 的流程，之前有用 RLHF 做过模型对齐吗7．当时你用 DeepSpeed ZeRO -3来微调Qwen2-72B，每一张卡占用的显存大概是多少，估算一下为什么是占这么多的显存8. 在微调 Qwen 的时候，数据是怎么构造的9.代码：无重复字符的最长子串

1.你这个xx实习的项目能展开讲讲吗？你主要负责哪块？为什么是你来做这块？2.自动化评估体系这里能具体说说怎么评的吗？哪些维度3. 多维度自动化评估体系，那每一个维度是怎么做的？比如你说的关键词匹配和问答对，这个流程怎么构建的4.图表的准确性你怎么评估的？怎么从markdown和HTML 里提取对应图表并比对的？有没有一些异常case举个例子？5.用了playwright去截图，那遇到报错或者渲染失败怎么办6不同设备模块比如交换机、服务器，它们的字段特征都不一样，那你怎么做统一化训练7.那你这个知识图谱底层是用什么数据结构存的8.用的是PAI吗？那有没有对比过比如说 igraph或者图数据库像GraphScope这些之间有啥区别9有没有用过一些大模型的推理？比如说用千问做辅助根因预测10你们这套系统的准确率和召回率大概是多少，那比如说没有到90%，你们是认为这个指标是OK的吗11所以它是系统推理出根因之后还需要人工check，然后才能执行故障预案，有没有哪一部分流程是完全自动化的12你们平台现在接的主要是底层设备指标，那有没有接入一些业务指标，比如订单失败率转化率这类的业务数据13我有个疑问就接入业务指标的话你需要知道整个平台的服务拓扑，那你们这个平台是怎么接入业务侧拓扑的？是自己做的吗？还是中台团队负责15.那你既然用过图数据库，你知道它底层的存储结构是怎样的吗？比如它是怎么组织边和节点的16.我们现在是两阶段推荐架构：第一阶段召回用的是embedding点积召回，第二阶段是MLP跟transformer做多目标打分。那你觉得在我们这么大规模的数据量下，如果要做real-time re-ranking，你会在架构上怎么做trade-off？怎么压低latency17.我们现在在做embedding精度提升也试过加cross tower、attention pooling 甚至meta learning，但发现一旦模型重了，就难以部署到线上实时系统。那你觉得在embedding learning的这个模块里，有哪些方案能在不严重影响线上性能的情况下提升语义表示能力

bg9硕，开的38×16＋2k房补，这是sp还是ssp档位？想知道ssp门槛是多少

一面: 1.八股：Encoder与decoder的中Attention区别？2.八股：Attention如何计算？为什么除以根号下Dk？mask attention是如何实现的？3.八股：除了MHA还知道哪些(GQA MQA MLA)讲原理4.八股：为什么要用位置编码？为什么要用sin_cos？5.项目：问之前实习的Agent的设计逻辑，问创新方法的实现6.项目：你提到用DeepSpeed做SFT训练，请讲一下DeepSpeed ZeRO Stage 1-3的区别，以及什么时候用FSDP会更好？7.项目：问Agent的工具tool的设计，是否是workflow形式8.项目：了解哪些agent开发框架，例如langchain和LlamaIndex，他们核心应用场景有何不同9.项目：问数据的输入输出格式如何保证大模型输出稳定的json做了哪些工作10.智力题：有12个外观相同的芯片、其中一个重量不同(不知轻重)，用天平最少称几次能找出这张芯片？11.代码题：lc215 数组中的第K个最大元素

八股 1.交叉熵损失函数公式写出来，问意义，然后在二分类下的格式2.sigmoid公式写出来，问了几个性质3.问是否熟悉XGBoost，随机森林，都不会。面试官好像很想问这个领域的八股手撕1.做代码题的时候要求先讲思路，然后再打代码实现2.Leetcode hot100之三数之和，三指针做法3.Leetcode 经典dp之打家劫舍I，环形打家劫舍枚举第一间4.梯度下降法求x的平方根，不能调包，用迭代法自己推公式，要求输出迭代过程并看到收敛

1.问了生成式推荐的项目2.tiger、onerec是怎么实现的?3.encoder-decoder、decoder-only 哪种方式更好?简历上把一些奖学金，证书等等都写上去，这些是加分项，能够展现4.自己是一个比较努力的人5.更多是在拉家常6.觉得自己是不是一个努力上进的人7.家里父母是在做什么的?手撕:实现一个24点计算器oInput = [2,4,6,8]。Output = True/False进阶 output=2*6*8/4

1.八股：讲讲transformer架构2.八股：Transformer encoder？为什么需要FFN？3.八股：LORA和全参数微调的区别4.八股：讲DPO，PPO，GRPO5.项目：实习项目问的很细，数据构造，微调参数等6.项目：Agent整体流程是怎么做的？包括哪些模块7.项目：为什么选用deepSeek，了解deepseek-R1吗，介绍一下8.项目：Deepseek MLA？为什么压缩？9.项目：如果子agent回复不对怎么办？反思？跳不出去怎么办？限制次数10.项目：Agent怎么评估效果11.代码题：lc143 重排链表

1．项目介绍，问实习和论文2．讲一下 LoRA ，两个权重矩阵一般怎么初始化，能都全0吗3．除了 LoRA ，还了解哪些可以进行训练推理优化的技术4．现在的多模态大模型，动态分辨率一般都是怎么做的，位置编码怎么设计5．概率题，一副扑克牌，去掉大小王，随机抽两张，花色相同的概率6.场景题：目前有一个带货的直播间，设计一个方案，商品比较多怎么降低时延7.开放题：平常在训练或者微调 LLM 或者 VLM 的时候，有什么心得吗8.反问环节

1.实习和论文2.机器学习八股3.交叉熵损失函数、 KL 散度4.损失函数每个簇的中心点怎么选推导5.Kmeans 参数6. 从数学角度分析L1、L2正则化区别7.Adam 优化器的原理8.交叉熵求导过程9.Dropout 训练和测试的差异10.手撕全连接层，实现 forward