面经1，2024年，腾讯40K大模型数据算法工程师

📌 公司：联通数科📌 岗位：数据工程实习生📅 面试轮次：一面🧠 面试问题：Hive 和 MySQL 区别？Hive 的数据分区怎么用？Kafka 了解吗？你在项目里是怎么对接的？SQL 优化思路有哪些？有没有写过超大表处理逻辑？项目问题：你在处理数据质量问题时遇到过哪些挑战？手写一道题：统计每类商品的平均价格（SQL题）💬 小结：实习岗也考大数据基础，提前准备 Hive+Kafka+SQL 项目会更稳。

不愧是微信，压力很足了，比对线大师还出汗这60分钟比抖音80分钟难熬多了，菜就多学（15分钟+15分钟）上来就来2个编程题下马威：1.动态规划的，给字符串a和数组b，如a='apple'，b=['ap','pl','e']，其中b的每个元素可以多次使用或者不使用，问使用b能否构造出a。dp[j]=dp[i] and a[j:i] in set，做出来了。2.SQL的，给定签到表sign，有三个字段，user_id，date，flag（1表示签到，0表示没签到），问截至目前每个用户签到的连续天数。这个写了半天，两三层嵌套没写出来，用了row_number()20分钟：八股，鹅的八股都这么喜欢底层...

面试是24年7月的现在已经入职几个月了，补一下面经，帮有需要的同学参考。BG：本硕985 计算机论文1A1B一面：技术面自我介绍 & 简历相关。简单介绍了自己在多模态和大模型方向的研究/工作经历，包括在校期间的论文工作以及实习经历。面试官主要针对简历上的项目提了一些细节问题，比如具体模型的量级，提升了多少，和哪些方法做了比较等。因为是自己的工作，所以没有卡壳。问有没有遇到过 Python 文件之间互相 import 的问题，出现这种问题怎么办？让我简单介绍了一下 PPO 算法，以及和 TRPO 的区别是什么？接着 PPO，问了一下 ChatGPT 的 RLHF 流程，以及为什么不直接用 SFT，而是要用强化这么麻烦的方式训练模型？继续追问 RLHF、SFT、LoRA 的区别，分别适用于什么场景？反问：公司现有业务是什么，计算资源情况等。二面：主管面论文介绍。让我用通俗的语言介绍我自己发表和投稿的论文，重点是研究动机和要解决的问题。问有没有亲手训练过大模型，最多用了多少张 GPU 卡？并行训练使用的框架是什么？介绍一下 DeepSpeed，说一下这个框架在并行的不同阶段（ZeRO stage）分别做了哪些事？训练模型的时候，数据量有多少，怎么收集数据的，训练花了多少时间？遇到的最大问题是什么？问在大模型全量微调时，显存消耗分别由哪些部分占用？（参数、梯度、优化器状态、激活信息等），分别占用多少？假设模型参数量为N，请分不同情况讨论和计算一下微调所需要的显存（不同精度、batch size、seq len 等）。说一下 LoRA 公式，讲一讲其中 A 和 B 两个矩阵分别表示什么。LoRA 的优缺点是什么，什么场景下适合使用？问知道哪些大模型训练和推理框架，用过哪些？问 LLaVA 的结构是什么，和常规的纯文本大模型有什么区别？Encoder-Decoder 结构的模型转 ONNX 的一般流程，遇到不支持的算子怎么办？可能遇到的问题（动态 shape、模型中逻辑判断需要单独写、模块拆分等）。三面：HR 面主要问了为什么选择公司，对团队的看法，对岗位的认识；未来大致的规划，面试过程的体验，有没有别的公司的 offer 等。以及询问了期望薪资等。之后就是等待，最终和期望薪资基本一致。总体感受面试流程比较顺畅，问题也比较贴合岗位要求；如果和岗位匹配度高，一般流程推进速度会很快。入职以后，工作内容和面试被问的问题也差不多，基本上都是算法工程师需要做的内容，团队氛围也很不错。只是毕竟是企业，不可能光搞研究，在承接业务时还是免不了和很多人打交道和来回battle需求，这个无可避免。

之前断断续续学了javase,javaweb,mysql,linux,mybatis，也忘了很多现在在看黑马的ssm课程里面有spring，springmvc，spingboot，maven，和mybatisplus，现在快看到springboot了，但是感觉看完视频还是有点晕晕的，看完这个合集后准备去看，黑马的redis，后面再把它的外卖，点评项目给做了希望在寒假左右能找到实习，不知道我这样的安排是否合理，有没有更高效的学习路线和方法?求大佬分享建议