1. 介绍自己的项目2. LLaMA和GLM的区别，模型架构等方面3. BLEU和ROUGE4. 数据量和这个效果之间的关系是什么样的5. LLM的参数介绍（temp topk top p等）6. 长度过长怎么处理，从是否fix原有模型回答。（BPE 扩展词表，分阶段generate）以及从input直接回答7. PEFT的方式8. data construction的tricks6. 淘天客服部门1. LLM generate 参数问题2. slef-attention得根号d3. LLM的评估4. 介绍下simCSE5. 解决tokens不够的问题应该怎么办6. 详细介绍下deepspeed（三个stage结合参数回答）7. gpt和llama的区别（模型结构上的）8. LORA论文讲一下，对比p-tuning9. LLM训练的时候为什么warmuppretrain数据量大，前面的数据量占比小，可能带来bias参数量大，初始化的时候w是随机的，防止爆炸10. 对比学习中的batch size是大一些好还是小一些好->大一些，甚至可以到10k+，为了构造好的negative样本11. coding：给你一个数组，返回其中的前k个出现频率最高的元素，假设数组特别大，k很小

📍面试公司：上海人工智能实验室💻面试岗位：大模型工程师❓面试问题：上海人工智能实验室大模型工程师面经-一面1.直接写的代码题，非hot 100 难度中等，dfs可桥接版（还挺喜欢面试官的，跟我说题目的时候说了很久，解读题目的时候给了我思路）2.实习的项目3.internvl的发展路径4.q-former和mlp在对齐中的区别，有什么优劣（没有答的很好）5.internvl2.5和qwen2.5的区别，着重问了一下动态分辨率6. zero123的区别7. 7b模型需要多少显存运行（没答上来，以前针对性的学过还是忘了，之后更新在主页）🙌面试感想：good

总结：一共一个小时，30分钟实习+项目提问+八股提问，30分钟手撕。实习提问1.介绍一下实习内容2.是否有遇到过印象深刻的bug或者缺陷3.项目有了那些提效手段，是否结合了大模型？4.有了解除了Appuim之外的框架吗？他们的区别了解吗？5.八股提问6.计算机线程和进程的区别7.并发环境如何保证线程安全？8.TCP协议如何保证传输的安全可靠性？9.重载和重写的区别10.Java如何实现多线程11.Java有哪些同步机制可以保证数据安全？12.乐观锁和悲观锁的区别，以及应用场景是什么？13.软件设计模式了解吗？手撕环节：1.找出字符串中的最长不重复字串反问环节1.业务内容：给开发做测试工具2.测和开的比例：主要偏向开发3.业务：内部平台开发

算法题 1.灯泡开关 100个人，100个灯泡，第一个人编号为1能按对它编号取模为零的灯泡，以此类规，最后有多少个灯泡是亮的2.给两个叶子节点，找到他们的公共父节点，空间复杂度要求O13.给一长串代码，多个类互相继承，其中包含静态代码块，初始化方法等打印，写出最后打印的顺序八股略