1. 介绍自己的项目2. LLaMA和GLM的区别，模型架构等方面3. BLEU和ROUGE4. 数据量和这个效果之间的关系是什么样的5. LLM的参数介绍（temp topk top p等）6. 长度过长怎么处理，从是否fix原有模型回答。（BPE 扩展词表，分阶段generate）以及从input直接回答7. PEFT的方式8. data construction的tricks6. 淘天客服部门1. LLM generate 参数问题2. slef-attention得根号d3. LLM的评估4. 介绍下simCSE5. 解决tokens不够的问题应该怎么办6. 详细介绍下deepspeed（三个stage结合参数回答）7. gpt和llama的区别（模型结构上的）8. LORA论文讲一下，对比p-tuning9. LLM训练的时候为什么warmuppretrain数据量大，前面的数据量占比小，可能带来bias参数量大，初始化的时候w是随机的，防止爆炸10. 对比学习中的batch size是大一些好还是小一些好->大一些，甚至可以到10k+，为了构造好的negative样本11. coding：给你一个数组，返回其中的前k个出现频率最高的元素，假设数组特别大，k很小

作为传奇耐面王，已经是被字节第三个部门面试了，之前两个后端的都挂了，无奈只能另谋出路，本想直接到测开，但这一旦测试开始，估计后续就无缘后端了，所以再挣扎一下试试客户端，实在不行再去测开。首先是自我介绍以及对项目的简单问答，下面记录关于八股的内容以及参考答案1、线程与进程是什么有什么区别？线程比进程更高效的原因是什么？名称定义举例进程（Process）操作系统中资源分配的最小单位。每个运行的程序就是一个进程。打开“微信.exe”就是一个进程线程（Thread）操作系统中CPU调度的最小单位。线程是进程内部的“执行流”。微信的一个线程负责接收消息，另一个线程负责播放语音区别定义操作系统分配资源的基...

若干简历项目相关，略。（问的不咋详细，因为方向没有推荐系统的项目）CELR 梯度推导self Attention 公式，d作用？Transfomer相较于RNN优势？掷骰子6点期望次数coding：求给定字符串最长不重复字符子串长度给定数组最大连续和整体上偏简单，LR梯度dz/dW开始写错了，经提醒后修正

1. Java里面创建线程的方法2. 线程池有哪些核心参数，以及内部的运行机制？3. Java里面控制线程同步的方式4. synchronized关键字，有一个类的A，B方法签名上有sync，初始化一个对象，由两个线程并发调用A，B方法是否可以一起执行？（不能）5. 介绍一下ThreadLoacal，内部原理，使用场景6. JVM的内存划分以及垃圾回收机制7. Spring经常用的核心功能（回答了IoC和AOP）8. Spring事务传播机制9. MySQL的InnoDB有哪些事务隔离级别10. 读提交解决了读未提交的哪些问题？11. 组合索引，介绍一下组合索引的最左前缀匹配12. 有一张表表中有两个字段，第一个课程ID第二个学号，统计了哪些课超过50个学生选，如何查询这些课？13. MySQL索引失效有哪些情况？14. MySQL查询语句如何优化