大模型应用开发一面-美团面经

1. 你做过大模型数据处理的话，预训练数据清洗一般怎么做，去重、去噪、质量过滤分别解决什么问题？预训练数据清洗本质上是在控制“数据量”和“数据质量”之间的平衡。去重主要解决模型反复记忆同一批内容，避免浪费训练 token，也减少 benchmark 污染。去噪主要是过滤乱码、模板页、广告页、低信息密度文本、机器生成垃圾内容，不然模型会学到很差的语言模式。质量过滤更偏向保留高价值内容，比如结构完整、语义通顺、知识密度高、代码块规范或者问答对明确的数据。实际工程里一般不会只靠一个规则，而是多阶段处理：先做规则清洗，再做语言识别、长度过滤、内容打分，最后再结合 dedup 和采样策略。因为预训练效果...

总时长 45min，算上网断了重连，大概 38min 的样子1.拷打简历2.简历提到的一个方法，如果现在让我做，你会怎么做3.简历提到 t5，简单让讲了下 t5 模型架构和优势，问encoder 和 decoder 的模型你了解哪些？4.后训练了解吗，介绍一下 dpo，ppo5.简历提到 lora，讲一下 lora有一道智力题，把题目放到图片了手撕：最长公共子序列，hot100 原题  （美团的手撕很友好，直接在面试的网页上做题，leetcode 形式的，不用处理输入输出，写主函数就可以了），几分钟做完，又花几分钟讲了下思路另外想问一下面试过的同学，结果大概什么时候能出呢

1. 项目里是把 skill 直接塞进 system prompt 的，如果 skill 太多，占用上下文窗口太大，怎么处理不能把所有 skill 常驻塞进 system prompt，这样会带来三个问题：上下文窗口被占满、候选技能噪声太大、模型在选择 skill 时更容易混淆。更合理的方式是把 skill 做成外部注册表，system prompt 里只保留最小规则和调用协议，真正的 skill 描述按需动态注入。常见做法是先做一层 skill routing。可以用规则、分类模型或者向量检索先筛出 topk skill，再把这几个 skill 的 description、参数 schema...

算法：LC72. 编辑距离（mid，动态规划）1. 项目是练手项目还是生产项目？为什么选择这个项目？2. 项目中的技术栈是如何掌握的？3. Lua 脚本在项目中怎么用的？解决什么问题？4. 有没有做高并发压测？怎么验证系统效果？5. 在压测过程中，如何观测系统表现的？6. 缓存命中率怎么监测的？7. 动态规划实际应用场景8. 如果要去改的话 ，用是什么机制去改这个数据啊？初始化缓存的状态，写入的初始动作。缓存如何加载？是启动时加载还是动态加载？9. 缓存数据更新怎么做的？10. 为什么不用“先删缓存再更新数据库”？11. 这个机制有必要服务启动时就加载吗？懒加载机制需要启动时加载吗？12. 项目中缓存的是什么数据？为什么适合缓存？13. 你了解实际的应用场景吗，动态规划的实际应用场景14. 用什么管理代码？15. 你自己动手开发上手开发的大概哪些模块是自己做的呀？自己写了多少行代码？16. 访问站点建立链接，电商平台。建立的是什么连接。为什么？17. 关注哪些前沿技术？什么渠道？18. 实践探索，有没有实践这些新技术？在哪里装的？什么模型？尝试解决了什么问题？19. 用agent写代码具体做了什么？20. 后端技术栈的信息了解吗，比如高并发的处理新方案类似？真正有自己实际行动？具体的case?朋友的面经，帮忙转发一下，问得特别细，全程拷打项目没有纯问八股，如果没有吃透自己的项目就很难回答，大家可以按提问的这些方向好好准备下自己的项目