美团- 北斗计划-基座大模型推理引擎工程师

30分钟速通，纯项目无八股。1.投机解码？大小模型怎么做选择，微调过吗？2.Cuda算子做了哪些优化？（但是没问具体做了什么优化）3.你的项目中Dense和Moe模型推理实现起来有什么区别？EP？4.在实验室做啥的？这时候过了20分钟，然后给了一道题，挺简单的看完直接说思路。本来想写一下感觉时间不太够就直接口述详细过程了。只开了30分钟的会议，大部分也都答出来了。应该不会凉凉吧

1、自我介绍2、介绍了部门的方向（我本来投的是软开，但是调剂到了大模型算法，部门做cuda编程）3、问了求职意向和实习转正情况（八股）4、c和c++最大的区别，怎么理解面向对象5、c可以实现c++中的对象吗6、如何理解this指针，底层反汇编实现细节（没答上来）7、c++中的多态，动态多态如何实现的，虚函数的底层原理（手撕）8、（共享屏幕）本地实现矩阵相乘9、你这里只能实现int类型的相乘，那如果用其他数据类型呢（用模板）10、你为什么选择用容器，而不是用数组。容器有什么优点，有什么缺点。11、你觉得代码还有什么不太完美的地方（被指出没有考虑int相乘越界的情况）（大模型）12、了解过tran...

岗位：大模型基座方向一面：首先就是项目拷打，由于我的简历项目比较垂直，硕士以来的经历与Infra都比较相关，所以面试官大部分时间都在问我的项目+实习的经历，并且拷打并不是很深入，即便很多项目的细节已经不太记得了，但是没有问到，所以也答得都很流畅；然后问我对于TVM以及Triton是否有一些了解，由于这两个都是属于编译相关的Infra，与我在校的经历都比较相关，在做自己课题的时候都关注并学习过，所以答得也很流畅，一面面试官应该是对我还是蛮满意的，所以面试到最后，已经1小时了，才开始做手撕，题目是：用CUDA实现Softmax算子，但是CUDA我只是之前在硕士上课的作业中写过1，2次CUDA代码，其实并不是非常熟悉，然后隔了又比较久，语法已经不怎么记得了，所以和面试官说了情况，面试官说那你就把怎么优化编写这个算子讲一下思路，然后就是讲了一下思路，思考了3分钟左右，回答上来了，面试官说你这有点慢了哈，但是感觉面试官整体还是比较满意的，所以比较轻松的就结束了一面PS：但是这也是我后续二面表现较差的原因之一吧二面：由于一面觉得自己和面试官聊的比较开心，然后就比较懈怠二面吧，尤其那段时间正好是实习最忙的一段时间，所以就没怎么准备面试内容。同样，二面主要是项目拷打，但是不一样的是这轮的面试官挖项目经历很深，问得非常细节，印象很深的是问得实习刚来的时候做的一个工作，由于刚来实习其实对于整个大模型的架构并不是很了解，只是把MoE一种通信方式的多流优化特性迁移到另一种通信方式上，对于其中的计算过程以及具体多流并行的算子印象并不是很深刻，然后面试官一直追问这个问题，而且距离那个工作已经过去快2个月了，当时的理解不深加上时间比较久已经忘记得差不多了，所以导致只能和面试官说自己不记得具体细节了，可能就给面试官留下了不好的印象（尤其还是人才计划）然后就是最后的手撕环节了，这个题目印象比较深，但是很久没刷过题了，而且也确实非常菜，导致没做出来最优解：题目是：有一个k值以及一个有序数组a[n]（升/降序都可以），a[i]任意整数，需要求解表达式 | | a[i] | - | k | |的值最小，这个题暴力求解非常简单，属于一眼出答案，我看完题和面试官就讲了暴力遍历数组就可以得到计算结果的方式，然后面试官就问有没有更优的解法，我知道可以通过二分通过O(logN)的复杂度最优解，但是这个区间考虑比较复杂，当时已经被前面的问题搞得没什么心态了，也没有仔细考虑区间的关系，最后就只用一次二分做了这个题，但是实际上需要3次二分，导致二面没有通过，然后后续被通知说一面，二面，面评差距大，所以转正式批了，但是最后转到正式批流程也没有被捞，导致正式批流程也结束了

飞腾面经（总时长1H）： 7.17 投递 8.2面试 无笔试 Part one HR提问： 1.自我介绍 2.户籍信息，是否有来长沙工作的意愿 3.目前其他公司面试进度，是否有拿到offer? Part two 技术面： 1.简历项目盘问：包括项目验证覆盖率怎么判定是否100%，怎么制定验证功能点，自己发现了代码中的哪些bug，在设计人员提出的验证要求外自己还觉得应该验证哪些功能？ 2.介绍对DMA的理解，DMA搬运对象内存和外设的区别是啥，怎么判断DMA搬运完成？ 3.介绍以太网验证case，是否做过以太网带宽功能的验证,介绍下其他项目中如何提高总线传输带宽的 4.八股提问： （1）Verd...