大模型面试题合集大模型面试八股

1.介绍另一个项目，还有围绕该项目的深挖比如多个大模型的统一适配是怎么做的？有限状态机的完善过程是什么样的？整个fsm通过几个模块来完成？2.主要考察业务场景问题：1.技术人员如何在模型生成结果中体现内容的创新性？2.想要让新用户在初次使用App时快速被吸引，你设计的模型需要注意哪些点？3.提到的收集时空两方面的数据，如何收集？收集后该如何分析处理？3.八股：1.了解过qwen、llava等大模型吗2.它们各自的核心特征是什么3.它们是怎么进行微调怎么去训练的4.手撕代码：两个升序序列的合并，询问思路和复杂度

背景介绍：单2硕，27届，计算机专业，无论文，一段中厂AI应用开发实习均是1.8开始投递，之前准备的大模型算法，结果一个都没有回应，都是大模型和后端的面试，白准备了从1.8号开始复习Java八股和力扣算法，之前有半年多没看了，还好有之前的笔记，复习了3天裸面字节（也佩服我的勇气）字节 --- 后端开发1.12 一面 八股盛宴，面试官对我大模型项目不太有兴趣，问了50分钟八股 算法：双线程交叉打印1.15 二面 场景八股 面试官非常有水平，问的八股比较活，同时还问了sql，之前没有准备 算法：下一个排列1.19 问了hr，10分钟回我挂了，发感谢信美团 --大模型应用开发1.13 一面 问了50...

项目和八股 1.grpo哪个阶段最耗时2.rollout采样3.使用过 verl 框架吗4.verl 框架为什么需要重新 forward 计算 log probs5.dapo 的几个创新- clip-higher- Dynamic Sampling- token级别优势计算6.大模型推理优化 答了deepspeed 等 不行 说这个是训练方面的- 推理主要分为两个阶段  prefill+decoder- 量化：用低精度比如int8保存 参数 激活值  KVcache- KVCache 量化（vllm也采取了pageAttention，将KV cache当成虚拟内存+页表 按照固定的page进行管理）- GQA- flash attention反问

面试官：你还有什么想问的吗？ 我：什么时候给我发offer？↑如果你不是很想要这份工作，也可以像我这样问。关于反问环节，很多朋友应该很迷惑，“我真没什么想问的，但是不问有点尴尬，要不问点啥吧？”我也是从这个阶段开始的，但是在我面试了众多公司的AI算法工程师后，还是总结出一些规律。我们应该先明确的是——反问环节对我们的帮助有哪些。首先，通过提问，我们可以直接或间接地获取信息。这个信息包括但不限于： 1.公司产品线，这个是相对容易问到的，例如“我了解到我们公司有xx产品，我想问下您具体是负责哪个业务的？”这个问题是一个不会出错的问题，主要是帮我们判断“这个公司做的事我真的感兴趣吗”，以及引出后续的...