蚂蚁Agent算法实习二面 攒人品

项目深挖更细，还聊了一道 CUDA 脑暴题这场蚂蚁二面的感觉和一面不太一样。一面更像是先确认你做过什么、懂到什么程度，二面则明显更深，基本是顺着项目细节一路往下追，尤其会反复确认你到底是不是亲手做过优化、怎么判断优化价值、怎么分析性能边界，以及你对更上层系统有没有兴趣。开场还是先让我用一个比较高层的方式讲实习经历、项目经历和职业规划，我这边还是重点放在了算子优化、图优化、量化推理 runtime 这些内容上。项目部分一开始还是围绕我现在做的方向展开。我先讲了三个相对核心的点：一个是单算子优化，一个是稳定性问题修复，一个是算子融合。单算子优化这块，我举的是把旧的手写实现替换成高性能库实现，再做单...

到底该怎么衡量一个码本的好坏？码本利用率低（比如VAE训练出来三层256码本第一层只有60个有用到）会导致什么后果？感觉也不会影响到后面的训练啊😵相反kmeans的码本三层256都能用到，就说明kmeans结果更好吗？kmeans和VAE的优势分别体现在哪😵求解答！感谢！🤯🤯🤯

这一轮更偏大模型、量化和推理基础理解这场蚂蚁 AI Infra 三面，整体感觉和前两轮又不太一样。前两轮更多是在深挖我已经做过的项目，这一轮虽然也会问项目，但明显更关注我对大模型推理、量化、KV Cache、attention 这些基础问题到底理解到什么程度。开头还是先做自我介绍，我主要讲了自己现在在做的几个方向：一段偏工程化的软件开发经历，一段偏算子和图优化的实习经历，以及自己在做的一个基于 Python extension 的量化推理 runtime 小项目。这一轮项目部分问得相对直接。面试官先让我展开讲了自己做的那个量化推理 runtime。我这边讲的是，基于一个开源 runtime 做...

我破防了