字节阿里大模型实习帮选

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1.做过哪些相关工作 / 看过哪些经典文章 / 参与过哪些开源项目2.为什么要做 Prefill 和 Decode 分离，追问：pd到底争夺什么资源，和“直接多给卡/资源翻倍”相比本质差异是什么3.AF 分离好处和坏处4.常见并行模式怎么看，怎么根据具体场景选择合适的并行模式，选择因素有哪些？5.追问：Prefill / Decode × Attention / MOE 这四种组合，分别更适合什么并行策略；6.你觉得一个优秀的大模型推理框架，核心技术点有哪些，追问量化选择策略；7.GEMM核心优化方法，ncu8.拷打算子项目，MLIR / LLVM 理解

如何快速进入这个行业，我也很久没写博客了，具体今天还是讲方法论吧，因为就是还是以主包自己的经历为体现啊，我在去年5月份的时候花了两周就速通了大模型的，然后从java转行-大模型-算子开发-agent开发-目前跟着几个博士搞wam。这些其实都是需要花时间做琢磨的，这个做事情要讲究方法的，我在秋招的时候和前mt创业开了公司，完整的错过了整个秋招，然后春招的时候我又在搞世界上最前沿的研究方向，一切都只是我想去干罢了，那把重要的写在前面就是如何快速找到工作或者快速入行啊，这一篇应该早点的，但是我事情太多又经常打游戏就忘记了，我这里以摩尔线程举例啊，首先就是你想进入这个行业是因为什么你要想好，然后找对标...

发点面经攒攒人品～基础知识1 进程与线程的核心区别是什么？Cache 的层级结构及2. 常见替换策略有哪些？3. IEEE 浮点标准中 FP16、FP32、FP64 各自的位宽分配方式是怎样的？4. 快速排序的执行流程是什么？堆的基本性质有哪些？拓扑排序适用于哪些场景？推理与算子优化5. 请阐述 Transformer 架构中 Decoder-only 结构的特点，包括 QKV 的生成过程以及位置编码的嵌入时机。6. RMSNorm 的计算公式是什么？其计算访存特性如何？可以从哪些角度进行优化（如负载均衡、Double Buffer、指令替换）？7. Softmax 的数值稳定性问题如何处理？Online Softmax 的实现原理是什么？8. 矩阵乘法与反量化融合算子在内存方面的优化策略有哪些？9. 稀疏矩阵 SpMV 运算中如何实现负载均衡与带宽优化？项目经历10. 项目深入考察。工具与工程11. Git 中拉取远程分支的操作方式有哪些？fetch+checkout 与 pull 的区别是什么？

一、互联网简历泡池子：美团、京东、蚂蚁简历挂：字节、阿里、快手、拼多多一面挂：腾讯收到offer: 智源人工智能研究院、小红书二、硬件厂一面挂：寒武纪、momenta、地平线三、总结原本计划提前离职待出租房全力找工作，但提离职时mentor和我说，可以在公司边待边找，公司里的任务不急，可以抽出一半时间准备面试，且公司里的电话亭也可以用来面试，所以我也就欣然同意了。没想到在这样的条件下，都感觉找工作页贼焦虑，有点不敢想全职找得焦虑成啥样。小红书二面后也经历了“暂不合适”，好在最后被捞起来了，然后五一前收到了书面offer，最后也是决定去这儿。离职的时候还和大家说了说投递情况，他们觉得我投递的方向...