斑马智行 大模型 暑期实习 面经

1. 自我介绍2. 过一下你觉得最好的项目/实习。说了一个教程类开源项目，其中包括部署、LoRA微调等内容。又说了了另一个在学校做的项目，问的很细，包括我们使用Function Call做检索的流程、用langchain如何实现的，内部原理是什么。3. 下一个项目BERT相关的，问了问Transformer的原理结构，他的优点是什么，我讲的是他是不限制距离计算，有效遏制了经典RNN模型的长序列遗忘问题。问了问BERT的原理，幸好看过原论文，简单说了下。4. 下一个项目是做的Qwen SFT，训练数据如何生成的，多少数据，训练的参数，训了多久。5. 问了强化学习deepseek，我答了GRPO和PPO，问了DPO我没看过。6. medium题

1、自我介绍答：公式背诵，多的不谈2、谈谈你对大模型的应用答：早在 DeepSeek 开源前通过配置文件直接调用过星火 3.5，SpringAI 等框架发行后分别通过本地部署 DS 和调用豆包 API 的方法实操过 AI Chat 开发，发现使用了这些框架后程序运行速率显著提高。值得一提的是，我学习这些框架最早接触的是 LangChainGo，我在没发现这个框架有 history 包的前提下自己实现了可记忆化的 AI Chat。3、如何自实现可记忆化 AI Chat？答：维护一个 historyMsg 的 struct，用户每次向 AI 聊天时，将用户的问题与大模型的 response 去 a...

字节一面：上来先笔试1.拷打项目2.MoE3.有没有微调经验，如何微调，介绍原理4.RAG5.AI agent6.functioncall感觉拿我刷kpi了😭也可能是我没大厂实习的原因字节一面寄百度一面：1.拷打项目2.Blip和blip2区别3.clip怎么训练的4.chatglm的创新点是什么5.transformer八股6.拷打项目的sam模型7.笔试：开根数（本人没准备笔试，用的梯度下降，被狠狠羞辱后想起二分）百度一面过快手一面：1.拷打项目2.拷打blip2和clip3.问了下clip 和blip的一些损失函数4.拷打transformer5.多模态如何融合的6.拷打原生大模型7.退火笔试：最小覆盖子串快手一面过百度二面：和一面基本问题差不多，又格外拷打了vit的一些维度问题，和处理问题笔试：三数和百度二面过发了口头offer，经过对比后拒了，all in 快手快手二面：问的情景题：如何做视频相关大模型的应用，然后依旧拷打项目，感觉快手面试官人都不错。笔试：链表删除右节点快手二面过快手hr面：问了问入职时间，和一些基本信息，一共才面了10分钟左右，给我有点慌，不会日常实习给我hr面挂了吧😭😭😭😭。我已经很牛马了😭更新，老铁厂oc了~第一份实习，太难了😭        

LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?RAG技术：RAG(检索增强生成)的完整链路包含哪...