1. 介绍自己的项目2. LLaMA和GLM的区别，模型架构等方面3. BLEU和ROUGE4. 数据量和这个效果之间的关系是什么样的5. LLM的参数介绍（temp topk top p等）6. 长度过长怎么处理，从是否fix原有模型回答。（BPE 扩展词表，分阶段generate）以及从input直接回答7. PEFT的方式8. data construction的tricks6. 淘天客服部门1. LLM generate 参数问题2. slef-attention得根号d3. LLM的评估4. 介绍下simCSE5. 解决tokens不够的问题应该怎么办6. 详细介绍下deepspeed（三个stage结合参数回答）7. gpt和llama的区别（模型结构上的）8. LORA论文讲一下，对比p-tuning9. LLM训练的时候为什么warmuppretrain数据量大，前面的数据量占比小，可能带来bias参数量大，初始化的时候w是随机的，防止爆炸10. 对比学习中的batch size是大一些好还是小一些好->大一些，甚至可以到10k+，为了构造好的negative样本11. coding：给你一个数组，返回其中的前k个出现频率最高的元素，假设数组特别大，k很小

redis由于很多key没设置ttl导致爆了，你会如何处理呢（某云原生团队）JVM 新生代和老年代比例varchar(100) 和 varchar(10)啥区别OOM排查，咋定位到是哪个方法的，jps jsatck最多能知道线程id 采用了堆外内存，为啥用这个？为啥又要用分布式缓存呢，我直接都存到本地内存不行嘛？我说本地内存可能存在机子down掉，他:不都是很多台机子部署的嘛 每次把全量数据从本地缓存返给前端，每次都传好几M数据。继续：本地缓存命中率多少？我：没测 感觉是很高。。 继续：堆外内存咋存的,序列化成string？rag问准确率提升多少？ 根本没评估有没有在学agent课程 无 建议...

第一次遇到没有选择题全是编程题的厂，写爽了。其他厂什么时候也跟进一下，别再考一堆八股了😓😓😓

上周五，晚上六点，参加了小米一面，整体时长1.5个小时，算是比较长的吧面试官看起来比较年轻，刚开始自己的心态也挺轻松，随着面试的进展，心情变的越加的不对劲，怎么问的每一道题都只知道一点，这是知道了自己的打法，专门来拆台来了 （让我自己认识到自己真不专业，基础太差）问题的答案，我都用一个链接的形式来呈现，相对简单的会做出解释px em rem vw vh 分别解释一下这几个单位www.jianshu.com/p/82f02af17…padding-top, 10%, 10rem，10vh， 10em 取值逻辑是什么这个里面有个坑 就是10% ,取的是父容器的宽度的10%em 也有个坑，不一定取的...