360笔试一道不会

攒人品攒人品～～1.实习拷打2.推理相关知识点：1.transformer架构（encoder-only、decoder-only、encoder-decoder各自优缺点，模型举例）2.prefill/decode 结合roofline讲3.nv基础（grid、block、thread、warp、l0cache/l1cache(shared memory)/l2cache/global memory、sram/hbm、tensor core、tma等）4.vllm相关（pagedattention、连续批处理、v0/v1架构、chunked prefill、prifix caching等）5.sglang相关 （radixattention，sglang代码没怎么看，问的不多）flashattention v1-v3、flashdecoding6.量化（LLM.int8()、SmoothQuant、AWQ、GPTQ等、量化的好处）7.投机解码（什么是投机解码、lookahead、n-gram、medusa、eagle）8.并行（dp/tp/pp/ep各自是什么，在vllm中如何实现）9.通信（reduce、gather、开销考虑）10.主流模型架构（llama1-3的演变、qwen3的moe怎么做的、deepseek的mtp）11.kvcache压缩手段（MHA、MQA、GQA、MLA）12.pd分离3.其他知识点计网、操作系统、python八股 都很基础4.手撕leetcode：反转链表、链表重排（lc143）、中序遍历二叉树的递归和非递归实现、最长连续序列（lc128）triton/cuda：layer norm、大矩阵规约求和、online-softmax

LZ也是经历了完整的秋招补录，获得了几个大模型相关的offer选择，***希望大家指导，有各offer的内部信息就更好了***字节 tts算法 自动出价与bid CVR模型 base杭州余杭 (n+2)*15 + m qzf  1-2（已签三方）华为 昇腾推理开发部 大模型推理 ai infra与vllm相关 base上海青浦 (n+2)*15 + (m+29) qzf（qzf三年发完，不含绩效月薪为n-4，年终奖具体月数存疑，面试官说有6-8）  16a蚂蚁国际 金融大模型算法 海外蚂小财+ai trading（海外以香港为主，也包含马来西亚等其余市场）base杭州 (n+2)*15 + 2k安家补贴 + (m+9) qzf p5腾讯 csig QQ浏览器 大模型算法 内容理解与AI搜 base成都天府 n*15 + (m+4)股票 + (m+5)qzf  t5（暂不考虑）个人考虑:1）个人现在是偏向华为这边，觉得纯大模型做的会更纯粹，比后训练更少基座迭代带来的反复，其余两家主做后训练与蒸馏2）华为给的非常有诚意，但是华为在企业风评这块比较差，强度也比较大，会顾虑强度与高期望能否接住的问题3）蚂蚁没开奖，这个垂域恰好是我最感兴趣的方向，抱有期待，最终可能在华为与蚂蚁之间选择

发些面经攒攒人品～～～1* FusedAttention优化怎么做的？2* 介绍一下FlashAttention3* FlashAttention数学推理公式4* RMSNorm为什么相比LayerNorm有提升？5* 现场想一个更灵活有效的显存分配方式cudaAllocator6* 整个Llama中有几个FC全连接层？7* Llama2的推理流程？每一层都有什么算子论文拷打C++：1* C++11的特性2* 智能指针3* unique_ptr 如何保证唯一性4* shared_ptr 何时析构5* 类的成员函数可以当模板吗6* 左值右值CUDA：1* CUDA有哪几种编程手段2* Tensor core 和 CUDA core的区别编程：1* 【LeetCode - 128】最长连续序列2* 【LeetCode - 340】至多包含 K 个不同字符的最长子串

今天刚完成毕业论文初稿，一直拖着没写秋招总结，来补一下，本人很菜单纯分享。bg双非本硕，研究生读的方向主要是cv相关，因为项目接触到nvidia orin一系列嵌入式板子，所以一开始实习找的方向是嵌入式AI应用，技术栈也是c++，python为主。因为项目跟orin芯片相关，被当时高通的mentor看中，运气很好找到了高通实习。实习内容跟智驾infra相关，由此接触部分ai infra知识。（由于原本一点基础没有，甚至没学过cuda）之后去b站和github上学习相关技术栈，通过傅哥的介绍视频了解到ai infra大概方向，后续便把重点方向放在推理方向（这个了解最多）。以下是秋招投递offer情况（因为过了很久，好多忘记了，记录不太准）：简历挂：vivo、寒武纪、地平线、小鹏、理想、阿里云、高德、阿里国际、平头哥(阿里系没过几个)、深信服、联发科  、商汤笔试挂：影石、大疆、淘天、饿了么（淘宝闪购）、海尔、海信一面挂：oppo ostar、荣耀、轻舟、蔚来、元戎、字节、海康终面挂：百度(百度换岗来回面了六面)泡池没泡出来：华为offer：小米相机部门infra、科大讯飞人才计划转普通批大模型推理优化岗位、高通转正最终去向：高通。虽然原部门没转正但是换部门转正了，这里非常感谢高通hr团队，高通hr真的很尽职专业，目前遇到的最好评的hr。并且高通这边做的方向个人很感兴趣，加上base也是理想base，直接决定去高通了。找工作时候非常内耗，面试阶段几乎一天两面，而且挂了这个新的面试又来了，并且面试要么一面挂要么终面挂，每天处于心态已崩和在崩的路上两种状态，好在结果个人还挺满意。秋招和实习一样，运气占一部分，剩下的就靠个人能力了，打铁还需自身硬。最后祝大伙都收获比较满意的offer。