主包背景：两段大厂大模型算法实习tl：8.18投递，8.27一面流程：1.自我介绍 1min速通2.简历项目拷打 25min左右3.结合主包的项目经历，问了有没有用过Prompt Tuning或者Prefix Tuning，结合实际场景谈优劣4.针对推荐系统的曝光偏差问题，常用处理思路5.LayerDrop和Dropout，两者的区别及各自适用场景6.解释一下Group Normalization？主要解决了什么问题？7.Transformer架构中，为什么要使用Position Embedding？有哪些常见的实现方式？8.除了word2vec、BERT，还了解哪些文本或item的表示学习方法？9.手撕10.反问（我问了下部门业务相关，以及校招生入职培养路径）面试官挺专业的，人也比较nice，不是压力面。总体面试体验不错，希望能过

八股文：SFT 训练时，数据规模和模型大小之间有什么 scaling law？除了 GRPO，还有哪些改进技术？比如 DPO、GSPO？怎么解决 DPO 和 GRPO 的 reward hacking 问题？DPO、GRPO 和 PPO 有啥区别？聊聊全参数微调和 PEFT？PEFT 的四种模式（addition, replace, LoRA, prompt tuning）分别讲讲？ 手撕算法：链表题：判断链表有没有环，找出两个链表的相交节点。O(n) 时间复杂度内，找出数组中第 k 大的数。

✅一面 1．首先是自我介绍和过项目，面试官还一起探讨项目用到的方法，可行性之类的2．介绍一下 CLIP3．了解 LoRA 吗， LoRA 微调的原理是什么4．了解哪些多模态大模型，简要介绍几个5.BLIP的三个损失函数分别是什么，数据是怎样清洗的6.BLIP2相对于 BLIP 有哪些改进，BLIP3又有哪些改进7.Qwen- VL 的三个训练流程分别是什么，有什么作用8．视觉编码器和 LLM 连接时，使用BLIP2中 Q - Former 那种复杂的 Adaptor 好还是 LLaVA 中简单的 MLP 好，说说各自的优缺点9．代码：实现多头自注意力一面比较常规，几乎都是八股问题，我觉得只要了解常见的多模态大模型都问题不大，主要还是要理解各个模型设计的动机是什么，这也是面试最喜欢考察的✅二面1．自我介绍和过项目，简要问了项目中使用某些方法的动机，以及是否会导致其他的问题2．了解 Transformer 吗，编码器和解码器的注意力有什么区别，在计算注意力中时除以 dk \ sqrt { d _ k }\ sqrt [ d _ k ｝的原因是什么3．后来有哪些比较经典的基于 Transformer 的语言模型， Qwen 相比于原始 Transformer 有哪些结构上的改动，Qwen2又有哪些改进4．了解 RLHF 吗， DPO 和 PPO 有什么区别， Loss 是什么样的，各自的优缺点是什么5．介绍一下 CLIP ，还了解什么其他的对比学习方法6．开放题：了解哪些多模态大模型，目前多模态大模型最的问题是什么7．代码：1143．最长公共子序列二面其实也偏常规，几乎也都是八股问题，但是也考察了一些对模型的理解以及知识面的广度，整体来说比一面的难度大一些✅三面：1．自我介绍，然后详细过了一下项目2．了解哪些大模型和多模态大模型，然后就聊了大模型这一路是怎么发展过来的，Transformer 、 BERT 、 GPT 、 LLaMA 、 Qwen ix ,以及当时的o1推理模型3．平常有尝试过训练过大模型吗，规模小一点的也没关系4．聊天，包括职业规划等等三面比较轻松，面试官说知识点前面两面都考察过了，三面就轻松一些，大概40来分钟吧📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

本来以为快手是推的最快的那家，没想到三面一拖再拖最后还是挂了……tl：一面：8.7 面完第二天中午约二面二面：8.12 面完第二天发三面邀请 时间是8.18周末重新接到了面试邀请，时间改到8.198.19面试前5分钟，hr打电话说面试官出差了，约到8.25三面：8.25 问了下项目的角色，问了些场景题，然后开始聊天，比如兴趣、老家、规划、有没有别的offer，面完面试官说他们会横向一下于是，8.27早上一看，官网已经结束流程了，无电话通知无感谢信快手你好狠的心，再捞我我也不面了，三面挂阴影太大了这周有四家三面（主管面），目前周一面的快手已经挂了，周二雷火主管面，我问到是否还有下一面时回答道接下...