错把腾讯青云计划当成暑期实习的幽默26选手

攒人品攒人品～～1.实习拷打2.推理相关知识点：1.transformer架构（encoder-only、decoder-only、encoder-decoder各自优缺点，模型举例）2.prefill/decode 结合roofline讲3.nv基础（grid、block、thread、warp、l0cache/l1cache(shared memory)/l2cache/global memory、sram/hbm、tensor core、tma等）4.vllm相关（pagedattention、连续批处理、v0/v1架构、chunked prefill、prifix caching等）5.sglang相关 （radixattention，sglang代码没怎么看，问的不多）flashattention v1-v3、flashdecoding6.量化（LLM.int8()、SmoothQuant、AWQ、GPTQ等、量化的好处）7.投机解码（什么是投机解码、lookahead、n-gram、medusa、eagle）8.并行（dp/tp/pp/ep各自是什么，在vllm中如何实现）9.通信（reduce、gather、开销考虑）10.主流模型架构（llama1-3的演变、qwen3的moe怎么做的、deepseek的mtp）11.kvcache压缩手段（MHA、MQA、GQA、MLA）12.pd分离3.其他知识点计网、操作系统、python八股 都很基础4.手撕leetcode：反转链表、链表重排（lc143）、中序遍历二叉树的递归和非递归实现、最长连续序列（lc128）triton/cuda：layer norm、大矩阵规约求和、online-softmax

一天一个 AI 岗位解析，今天来聊聊——AI训推框架研发工程师（AI Infra）如果说算法工程师是在让模型更聪明，那这个岗位就是👉 让大模型能稳定、高效、低成本地跑在业务里。不直接写业务逻辑，也不用直接和用户打交道，但是所有AI产品都离不开他，是实打实的“基建大神”。无论是 AI Agent、AI搜索、AI分身，背后都离不开训练与推理框架的支撑。一、这个岗位平时在做什么这个岗位的工作核心可以总结为三块：1️⃣ 大模型训练 & 推理框架研发首先你需要参与公司自研的 AI 训推框架开发，比如：大模型推理引擎优化训练框架性能提升推理吞吐与延迟优化巧妇难为无米之炊，得先开发框架才能后续推进...

27届大模型实习，SFT、RL、Agent、Prompt 工程都能干，太卷了，求各位大佬内推实习Bg：1. 上海人工智能实验室书生实训营十佳项目、优秀营员（Agent，多家公众号宣传）；2. EMNLP一作、ACL多篇在投，方向围绕安全对齐、CoT、LoRA；3. 围绕 RL、SFT、Pretrain 实现小参数基座模型 BludLM（有A100算力随时随地可用）；4. 项目层面，MutiAgent-Search（无GPS图寻地址，Agent）、FreeKnowledgeAI（搜索引擎，tool）；5. 实习层面，目前在华为 MindSpore 参与开源实习，负责案例研发；

LZ也是经历了完整的秋招补录，获得了几个大模型相关的offer选择，***希望大家指导，有各offer的内部信息就更好了***字节 tts算法 自动出价与bid CVR模型 base杭州余杭 (n+2)*15 + m qzf  1-2（已签三方）华为 昇腾推理开发部 大模型推理 ai infra与vllm相关 base上海青浦 (n+2)*15 + (m+29) qzf（qzf三年发完，不含绩效月薪为n-4，年终奖具体月数存疑，面试官说有6-8）  16a蚂蚁国际 金融大模型算法 海外蚂小财+ai trading（海外以香港为主，也包含马来西亚等其余市场）base杭州 (n+2)*15 + 2k安家补贴 + (m+9) qzf p5腾讯 csig QQ浏览器 大模型算法 内容理解与AI搜 base成都天府 n*15 + (m+4)股票 + (m+5)qzf  t5（暂不考虑）个人考虑:1）个人现在是偏向华为这边，觉得纯大模型做的会更纯粹，比后训练更少基座迭代带来的反复，其余两家主做后训练与蒸馏2）华为给的非常有诚意，但是华为在企业风评这块比较差，强度也比较大，会顾虑强度与高期望能否接住的问题3）蚂蚁没开奖，这个垂域恰好是我最感兴趣的方向，抱有期待，最终可能在华为与蚂蚁之间选择