AI infra应届春招

来还愿啦，接到京东的offer了，有点久远了鼠鼠努力回忆了一下，来发一下面经～一面：简历 + 项目拷打自我技术栈介绍，适合做ai infra哪个层面NCCL原理 + 实现机制RDMA的QP和MRRDMA的拥塞控制具体实现机制反问总结：面试官很厉害，问的都是一些系统层的原理还有分析，🈚️手撕八股二面+HR：简历拷打项目介绍 + 自我分析亮点项目拷打SHARP有什么缺点优点，对应各大厂商相应在网计算的产品分析讨论Megatron和deepspeed优劣，在设计并行策略应该注意哪些问题，最近新论文 + 场景题反问HR：常规HR问题

最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

我是前几年毕业的Java后端，在互联网大厂卷了一段年CRUD后，去年成功转岗到AI应用层工程师。今天把踩过的坑和攒下的干货全掏出来，给想转型的兄弟们指条明路。第一步：先选对“跳板项目”，别一上来就啃论文很多兄弟转型失败，是因为一上来就想搞大模型训练，结果被数学和CUDA劝退。我的建议是：从“AI应用层”切入，用你现有的后端经验做跳板。我转型时做的第一个项目，是给公司内部的客服系统加“智能问答”功能。没碰训练，而是用LangChain搭了个RAG（检索增强生成）链路：用Elasticsearch做向量检索，调OpenAI的API生成回复，再用Java写接口对接前端。这个项目让我摸透了AI落地的核心——不是算法多牛，而是怎么把模型能力和业务场景结合。第二步：学习方法别“学院派”，要“项目驱动”我试过跟着Coursera的吴恩达课程学，结果学了3周还在推导梯度下降，根本用不上。后来换了方法：先学Python，别碰Java思维：Python的语法和Java完全不同，我花了2周刷《Python Crash Course》，重点学NumPy和Pandas，用来处理客服对话数据。框架只学PyTorch，别贪多：TensorFlow太臃肿，PyTorch更灵活。我跟着李沐的《动手学深度学习》视频，边看边敲代码，用PyTorch搭了个简单的文本分类模型，识别用户问题是“投诉”还是“咨询”。数学够用就行：线性代数我只学了矩阵运算（用来理解向量检索），概率统计只学了贝叶斯定理（用来做意图识别），微积分就看了梯度下降的动画演示，没推导公式。第三步：资料来源要“接地气”，别迷信顶会论文我转型时看的资料里，最有用的不是论文，而是：GitHub上的开源项目：比如LangChain的官方文档，里面有大量RAG的实战案例，直接抄作业改业务逻辑。B站的实战视频：比如“AI应用开发实战”系列，手把手教怎么用FastAPI部署模型，比看书快10倍。行业报告：比如艾瑞咨询的《AI应用层发展报告》，了解哪些场景（客服、营销、办公）最需要AI工程师，避免学完找不到方向。第四步：求职时别硬刚“算法岗”，瞄准“AI应用工程师”我投简历时，避开了要求“精通Transformer”的算法岗，专门找“AI应用工程师”“AI后端开发”这类岗位。面试时，我没聊模型原理，而是重点讲：怎么解决RAG的“知识滞后”问题：我用Elasticsearch的增量索引，让客服系统能实时更新产品文档。怎么优化API调用成本：通过缓存高频问题的回复，把OpenAI的调用次数减少了40%。怎么设计Agent的工作流：把用户问题拆成“意图识别→知识检索→回复生成”三个步骤，用Java的状态机实现。这些内容都是后端工程师能理解的，面试官一听就知道我不是“纸上谈兵”。最后说句掏心窝的话转型AI不是“抛弃过去”，而是“升级技能”。后端经验里的系统设计、接口开发、性能优化，在AI应用层全是香饽饽。别焦虑“没学过算法”，先从小项目做起，用业务场景倒逼自己学技术，6个月足够你从“CRUD”变成“AI工程师”。

AI Infra / 数据岗考察:大模型训练 / 推理框架 + 算力调度 + 数据工程 + 性能优化。硬核工程岗。   1、工程 / 部署 / Infra  vLLM 的核心优化是什么  思路:PagedAttention(分页 KV cache) + Continuous batching(动态合批) + 量化 + prefix cache;吞吐比 HF 高数倍。   模型量化 / 蒸馏的区别  思路:量化: 降精度(FP16→INT8/INT4),结构不变;蒸馏: 教师→学生,结构变了;可叠加。   端侧部署的挑战  思路:算力/显存/电耗受限;要小模型(SLM 1-7B) + 量化 + ...