二面1. 自我介绍2. 推理框架的设计，计算图，运行图，内存管理3. 动态图，静态图，动态shape4. 图优化5. warp之间通信6. cuda reduce7. cuda softmax，warp处理与block处理的区别8. block，grid的设置，调度，为什么会影响算子速度9. CUDA的计算模型10.flash attention v1 v2面试时间：45分钟

深圳AI异构计算-二面1.自我介绍2.项目背景，实际的落地，主要功能啥的，项目多少人，做了多久，基于规则，设备是什么3.RT-DETR与DETR的优化4.大模型推理加速的方法哪些5.attention算子加速6.手撕代码：leetcode 43，leetcode 946

1.自我介绍2.先问了下我的论文，背景是什么，为什么做这个改进，创新点是怎么来的3.项目的背景，自己负责的部分是什么，其他模块负责什么4.DETR,RT-DETR，yolov5的模型结构。DETR的模型都忘了长什么样子了。5.模型量化原理介绍一下，量化算子具体是怎么算的？6.ROS通信7.推理框架的特点8.给了一个函数，问我各个参数得梯度怎么算，以及梯度是怎么传播的9.手撕代码,leetcode 26，CUDA矩阵乘反问：训练为主吗？答：不是训练推理都有，但是都要会一点。    

大家七夕约会，我七夕写代码 。

#提前批校招#

一面自我介绍项目介绍大概讲了一下项目里多线程并行加速得方法，面试官感觉不是很懂没有多问然后又介绍自己写的推理框架，面试官也不是很懂，没怎么聊手撕代码：最长上升自序列一共面了20分钟不到二面自我介绍，简单介绍了三个项目先详细介绍了第一个项目，说了一下算法得流程和自己优化推理加速得部分问了一下里面多线程得同步，用的时c++里面的什么数据结构里面模型加速都用了哪些方法介绍了一下自己里面模型增加吞吐量的方法介绍自己第二个自己写的推理框架，说一些自己写的推理框架有哪些特色说了一些自己设计的理念然后和其他推理框架的比较，面试官说我对底层得实现很熟悉然后说我的开源项目名字没取好，和别人重名了介绍第三个项目，问我RK3588时什么芯片，然后我说了一下大模型在端侧部署的问题问了一下baby-llama2和llama2的区别是什么后面讲了一些大模型导出的时候的动态维度问题说了一下自己写的两个算子问了实现了大模型的采样方案问现在还在做大模型相关的，说了最近自己做的一种新的大模型权重导出方法以及计算图的构建最后介绍了一下自己写的论文创新型，问了下为什么不投好一点的期刊？最后问了一下有没有做过应用层的项目，最近在学习什么东西？最后面试官介绍了一下公司的业务。反问：公司算法训练和工程化分开吗？一共几面？三面，线下面先手撕代码，删除链表重复元素并排序然后聊递归，栈溢出，什么时候会栈溢出，递归还会有什么潜在的问题问了一下日常生活，兴趣爱好啥的，闲聊一共40分钟左右HR面，30分钟左右正常HR面，性格呀生活呀成绩呀职业规划之类的

6月22日一面 线上6月23日二面 线上6月24日三面 线下三面完后，马上HR面，然后所有面试面完了面试体验挺不错的，现场还有小礼物拿  

  本人双非本，985硕，研究生做的是计算机视觉，做多目标检测与跟踪，有一篇中文cscd论文毕业用 无其他科研成果。  四月份开始投实习练手，主要是一些小公司的模型部署相关岗位，没有投大公司。  说一下感受：1，小公司的话既要你会算法，又要你会部署相关，而且部署要求没有那么高，我面的公司基本都没有问一些与部署相关比较深的问题。这一点的原因我觉得是小公司不会把算法训练和部署分开，所以面试官两个都问。2，像cuda编程，ai编译器，算子优化这方面的内容在小公司问的比较少，但我从其他面大厂这些岗位的经验来看，这些是重点。3，像推理框架这些好像也问的比较少 不会太深入。总结及自己后面的复习计划：1，自己研究生做的算法要好好复习一遍，深度学习的基本知识，目标检测的发展历程等都要熟悉。2，大厂比较看中cuda编程，算子优化这些。要把这些东西的细节，优化的原因过程目的和结果讲清楚。3，推理框架，tensorrt和ncnn这些，把这些和项目结合起来介绍。

没开摄像头，上来先自我介绍然后，立刻手撕代码，因为没见过那个题没写出来然后因为面试官那边有点吵声音也有点小，我也听不清讲的啥，面试官有点没耐心了后面又问我简历一个算子优化能写出来吗，说实话我都没听懂他喊我干啥，我说能写朴素的10分钟不到结束    

自我介绍项目介绍介绍一下rk3588的项目介绍一下实验室的项目寒武纪的芯片了解吗介绍了一下实习的内容问了一下实习想做的内容反问    

自我介绍，说一些做过的部署相关的项目项目询问，用了TensorRT量化，是PTQ量化吗？为什么要用tensorRT量化，项目有什么速度需求吗？CUDA加速图像预处理，具体的实现方法，用了什么优化手段吗？CUDA加速是自学的吗？可以举例子说一说你分析和优化算子的例子吗？(向量化读取没有加速，面试官说是内存对齐的原因)GUP的内存结构，l1 cacahe、共享内存、l2 cache介绍一下共享的内存怎么优化，bank conflict是什么意思？你对算法了解哪些？介绍一下ByteTrack的匹配过程？为什么选用RK3588芯片，说一说环境搭建和自己模型部署的过程？ARM相关的优化了解吗？聊一些实习规划？聊一些自己未来的职业规划？为什么想要做模型部署，有什么原因？手撕代码，只要说思路，CUDA实现100w的浮点数相加，怎么实现？反问：模型优化多一点还是写算子多一点？对我学习的一些建议，有哪些欠缺的知识？

后摩智能实习，线下面试自我介绍梯度下降，怎么求导，链式求导relu激活函数，0点怎么求导softmax实现，溢出问题问给我发过来让我学习的量化相关的论文，adaquant，i-vit答的都不好，说不没认真看，大三学生都比我学的好，还做了ppt来讲。都好卷，呜呜呜。面试官人很好，但我太菜了基本忘关了，都没答上来，细节基本都说不清楚，只能懂个大概。后面还是要把基础知识和项目细节好好的准备好。