字节tiktok推荐算法二面-实习面经

是数据中心sre，总体来说压力很大。中间有许多施压的问题。全程面试官眉头紧皱。刚刚开始时候一直抓住我的一个实习细节去问。我就算往我擅长的别的实习和项目上去引，他还会继续追问我不熟悉的实习经历细节。后续的一些关于分布式的知识我都是可以答上来的，也算流畅。最后没有写算法题！！！（这个是不是意味着我已经挂掉了）最后我问的面试官给个建议：他说：你的实习经历要写关于你自己一个人的产出，而不是你参与的产出。其他就没啥建议了。

1. 项目和八股介绍一下你做的这个项目为什么没有用 nsp，只用了 mlm分析一下transformer训练过程中显存占用和计算复杂度- 优化器 参数 梯度- 面试官说到：激活值也需要保存  训练过程中怎么去做到对激活值的显存占用，有什么参数可以进行控制 （答了混合精度，面试官说不对- 激活显存 ≈ `batch_size × seq_len × hidden_dim × n_layers × bytes_per_element`- 设置bs相关，也就是使用梯度检查点（Gradient Checkpointing），将大的bs分割成小的micro-bs来计算，最后进行一个统一PPO DPO GRPOclip可以限制分布差异  还有哪些方法KL 散度公式2. 手撕给定两个叶子节点，在二叉树中找到两个节点的最近公共祖先，空间复杂度要求o(1)。每个节点存在指向父节点指针

面试总体时间还是挺长的，面了一个小时十分钟左右，整理下面经攒攒人品！项目拷打1.介绍一下xgboost，他和gbt的区别是啥，xgboost为什么要用引入二阶项？2.MAE/RMSE是啥，分类问题为什么用交叉熵损失函数？3.逻辑回归如何做分类？阈值如何选？4.介绍一下transformer，transformer的Q K V分别是啥，注意力机制的公式是啥，为什么要除以根号下dk，你觉得大语言模型能为推荐系统做什么？5.考了一个线性规划问题的建模力扣题考的是 最大岛屿面积的改编

1.实习介绍2.防止 sft 灾难性遗忘你有哪些方法？3.sft 和 rl 区别是什么？数据格式有什么区别？4.Reasoning 推理过程有做什么 rl 吗？有哪些奖励？5.rl 有哪些算法？reward 常见的有哪些任务？6.为什么现在不用 reward model？区别是什么？7.PPO 模块介绍一下，公式说一下？critical model 什么作用？8.DPO 公式介绍一下，和 sft 有什么区别？9.GRPO 少了哪些模块，如何在 GRPO 基础上防止模型波动？10.介绍位置编码，PE、ROPE，现在常用哪些？为什么现在模型上下文只到 128K，如果是你你会做哪些改进？11.高效推理了解过吗？如何做到高效推理？你知道哪些方法？12.Lora 是什么？初始化讲一下？是否能对换？还有哪些变体？13.KL散度作用是什么？推一下公式。如果是确定标签，那会有什么变化？从数学原理解释13.编辑距离，用 n 的空间复杂度，如果我要打印编辑路径，你会怎么改，在哪个地方改？基本全答上来了，手撕也很快，实在不知道为什么挂了