快手nlp算法实习二面

发点面经攒攒人品～1.实习拷打2. 论文拷打3.有什么涉及的具体的应用吗4.我看里面上写上面写了一些知识图谱的一个构建说一下这个这个任务的一个输入和输出吧，大概你用到了什么数据，然后什么模型去产出什么样的一个东西5.你这个图谱里边都有哪些类型的实体？关系是怎么定义的6.你用了BERT去做实体识别哈，那为啥用BERT呢？能不能直接用个BiLSTM搞定5.我看你提到了LayerNorm，这块为啥要用个条件LayerNorm有什么作用6.说一下transformer的底层结构吧7.Transformer为什么用了LayerNorm呢8.你说你做了一个Multi-Head Self-Attention，那注意力权重那部分你还记得公式是咋算的吗？9.说一下LoRA原理10.刚才提到用LoRA做参数高效微调的必要性，那如果不是用LoRA，而是做全参数微调，那会消耗多少显存，比如说我以一个7B规模的大语言模型为例11.说说现在千问里有哪些主流的大模型结构12.项目拷打13.那你们这个DAG 图是怎么构建的？根因节点怎么推出来的

发点面经攒攒人品～1.项目拷打2.实习拷打3.你提到用了CKA你能解释一下它是怎么计算的吗？这个指标真的能评估对齐程度吗4.ModalityAdapter模态适配器这个模块你是怎么设计的？它是怎么起作用的？有没有做过ablation实验？5.对比学习里你怎么构造正负样本的？正负样本不容易区分的时候你们是怎么处理的？有没有用HNM6.你们项目里用了多个loss比如MSE + Contrastive Loss + KL 散度为什么这么设计？有没有出现loss拉扯现象7医疗组手那个项目你说做了Prompt模板设计，能不能举几个例子？分类模板和生成式模板在你们场景下分别怎么做的8你们用的知识库是静态的吗？有没有做向量索引？用的什么方案9怎么避免模型产生医疗幻觉？你们有没有做 hallucination 率评估11.你用过哪些模型推理框架？你觉得Ollama和vLLM区别在哪儿？在车端你们选它们的依据是什么？12.你们说做了14B的车端模型，你们是怎么用SFT数据去做微调的？数据怎么构建的13.评测体系你是怎么搭建的？评测指标都有哪些14.你说你们构建了车载Agent平台Agent链路是怎么调度的多轮对话怎么做状态维护？15.Rewrite模型是你做的，具体输入输出是什么？你们是把 rewrite放在检索前还是后？训练数据是人工构造的吗？16你现在要设计一个多模态模型用于车内驾驶员状态识别，传感器包括摄像头和力传感器，你会怎么设计这个 pipeline

发一下问题给大家参考，攒攒人品！1 项目拷打2. 在 Agent 多轮对话任务中，Attention 的局限性具体体现在哪些方面？3. 简要介绍 SFT 的核心流程，以及如何制定数据集的构建策略？4. SFT 之后常见的 Post-Training还有哪些？它们各自的设计目的是什么5. 什么是RAG它提升生成质量的核心原理是什么6.RAG与传统的检索 + 模型生成流程有何不同7.如何构建评估体系来验证一个RAG系统是否真正Work？8.PPO和DPO在对齐阶段的主要区别是什么？9. 在进行DPO训练时，通常有哪些关键的注意事项？是否了解过GRPO10.在Modular Agent中，多步规划是如何实现的？11.针对多个工具的调用链路，你的调度策略是如何设计的12. Agent 评估体系包含哪些核心维度？如何量化衡量Planning能力与Hallucination Rate )？13.在微调Qwen模型时，你是如何确定训练阶段和 Loss Function的？14. Prompt自动推荐模块应用了哪些优化策略？是否尝试过Prompt压缩或Embedding表示的方式？15.假如Agent推理链路包含3个工具且请求频率极高，导致系统整体延迟较高，你会从哪些维度进行优化？17.在记忆系统中，意图识别 承担什么职责？18.Embedding的维度选择（如 1024 维）是基于什么逻辑？为什么不选择更高或更低的维度？19.Qwen-4B的Embedding是如何实现的？其模型框架是否属于 BERT 系列？20.Qwen-34B的Rerank是如何实现的？21.Attention机制中的Q, K, V矩阵具体是如何通过输入变换得到的？22.Attention公式中除以根号d_k的作用是什么？如果不除以它，是否有其他替代方案？23.请详细解释Multi-Head Attention ，并指出它目前存在的主要问题24. 如何解决多头注意力机制计算开销过大的问题25. 什么是 RoPE ？它核心解决了什么问题？26. 在 Memory  系统中，如果输入文本过长，常见的工程处理策略有哪些？

感觉自己好菜、面试很难，还是要多多练习，感觉自己说不明白业务逻辑项目拷打1.生成式推荐和判别式推荐本质区别2.推荐算法发展脉络3.智力题:一个天平，101个玻璃球，找质量不同的那个需要秤几次