快手nlp智能客服实习一面

首先是能不能接触真实 LLM / 智能体业务；其次不是纯前端、纯数据标注，而是真的做 Agent；同时，实习时有没有人带你写代码、搭流程，有人带 = 能快速变强；最后，能不能接触工具调用、RAG、多智能体，能不能产出可展示的项目差实习： 天天洗数据、标数据、抄 prompt、打杂。好实习： 你能独立负责一个 Agent 模块。

感觉还挺难的，还得多练...1. Qwen2.5-vl pretrain 阶段用了哪些数据？分别大概用多少数据量？2. 对齐任务一般放在哪个阶段进行？你在 training 的时候long cot 能力下降了多少，有评估吗？3. 小米的 work 看了吗？4. chartQA 的方向有了解吗？ 你觉得有哪些优化方向？5. MLLM 不做对齐会有什么结果？你有考虑你的场景下做增量预训练吗？6. AI 生成检测你的方法对新出现的生成器来讲，效果如何？有评测过吗？7. 可解释性生成你是如何做的评估？给我讲一讲这几个指标以及为什么起作用。8. sim 评估用什么做的？如果你用 LLM 训一个专门用来评估，和你用 sim 的评估方法有什么区别？用多少数据量来训这个？可以当奖励模型吗？9. MLLM 做 rl 会有提升吗？假如你对 grounding 任务做 rl，需要注意什么

发面经攒人品中...欢迎评论区交流～1.项目介绍2.介绍一下 CLIP3.了解 LORA 吗，LORA 微调的原理是什么4.了解哪些多模态大模型，简要介绍几个5.BLIP 的三个损失函数分别是什么，数据是怎样清洗的6.BLIP2 相对于 BLIP 有哪些改进，BLIP3 又有哪些改进7.Qwen-VL的三个训练流程分别是什么，有什么作用8.视觉编码器和 LLM 连接时，使用 BLIP2中 O-Former 那种复杂的 Adaptor 好还是 LLaVA中简单的 MLP 好，说说各自的优缺点9.代码:实现多头自注意力

攒人品中，欢迎评论区交流～1.在 LLM 的推理阶段，有哪些常见的解码策略?请解释 Greedy Search，Beam Search，Top-KSampling 和Nucleus Sampling(Top-p)的原理和优缺点。2.什么是位置编码?列举两种实现方式。3.请你详细介绍 ROPE，对比绝对位置编码它的优劣势分别是什么?4.MHA ,MOA,GOA 的区别。5.请比较一下几种常见的 LLM 架构，例如 Encoder-0 nly,Decoder-Only,和 Encoder-Decoder ，并说明它们各自最擅长的任务类型。6.什么是 Scaling Laws ?它揭示了模型性能、计算量和数据量之间的什么关系?这对 LLM 的研发有什么指导意义?7.请详细解释一下 Transformer 模型中的自注意力机制是如何工作的?8.什么是词元化?请比较一下 BPE()和 WordPiece 这两种主流的子词切分算法。9.你觉得 NLP()和 LLM 最大的区别是什么?10.开源框架了解过哪些?11.激活函数有了解吗，你知道哪些 LLM 常用的激活函数?为什么选用它?12.混合专家模型(MOE)是如何在不显著增加推理成本的情况下，有效扩大模型参数规模的?请简述其工作原理。13.在训练一个百或千亿参数级别的 LLM 时，你会面临哪些主要的工程和算法挑战?14.最近读过哪些 LLM 比较前沿的论文。