高性能计算

1. 自我介绍2. 项目介绍3. 端侧部署大模型做的移植工作4. kv cache的管理5. 如何优化大模型的部署推理加速6. 推理框架的设计7. 计算图的设计8. 量化的原理9. 量化出现过大的误差该如何处理10. 量化算子是如何计算的，计算图会发生哪些变化聊了一下职业发展和目标城市，一共30分钟

一面 1. 自我介绍2. 项目介绍3. 预处理cuda加速4. 吞吐量如何增加5. 模型量化，体积减小与速度提高分析，精度分析6. 混合精度量化7. 多摄像头特征，多传感器特征如何对齐？8. bev的缺点，有什么问题9. chat-glm的预训练是怎么做的？10. 为什么没有q的cache11. 目标跟踪论文的介绍，拷打12. 小目标检测的trick13. bert与vit的位置编码，chat-glm的位置编码14. transformer结构加速15. flash attention16. 如何设计一个框架，支持后端各种不同硬件的推理框架17. layernorm如何计算的，是对哪一个维度18. safe softmax19. 特征值是什么，不同类型的特征怎么对齐，怎么评判提取一个特征好不好20. softmax对某一个类别的梯度，怎么计算的，是不是恒为正21. BN前如果有线性层，线性层还要加bias吗50分钟

1. 自我介绍2. 项目介绍3. 目标检测算法4. 目标检测的类别数，数据集大小5. yolov5的改进6. 量化的校准数据集7. 量化的原理8. 量化的精度评估9. 量化计算scale的方法10. 吞吐量计算11. 推理框架12. 计算图的构建13. 卷积算子的实现14. 矩阵乘分块15. 大模型分词器16. ARM NEON17. kv cache18. 指针与引用19. 堆与栈20. 野指针和智能指针30分钟

小伙伴们看过来，介绍优秀开源项目了，C++经典学习路线，搜索和AI推理方向，端到端的搜索系统kumo-search，该框架包括了C++高性能基础库turbo、向量引擎titan-ann、并行计算库flare、网络框架库 melon、以及python的高性能aot编译器Hercules等模块。有时间的小伙伴欢迎来star和学习~   项目链接地址 https://github.com/gottingen/search-legend，相关代码在界面相关子项目中。 你可以学到自动化的cmake构建，快手上手cmake和工程。你可以学习到高效的数据结构和网络框架，来自brpc、abseil、Onnxruntime等经典项目的精华，吊打webserver等单事件eventloop的网络架构。C++基础打扎实，视角广度提升，学习到高性能计算的simd、cuda等抽象封装。如果你是在校学生，想要转C++方向，搜索架构和AI高性能计算是非常合适的，这套项目也需要事件来好好研究，欢迎大家star，学长给你C++求职的建议。本人介绍，本人是23届毕业的硕士老哥，毕业走C++方向，拿到百度和理想等offer，相关实习和秋招面经可以看我的帖子，这个kumo-search项目是跟一个T9的大佬一起学习，搞的，用心学习能极大提升C++功底，搞定的话，百度T6水平不是问题，行业通吃。******************************************* 也可以给找实习和工作的小伙伴内推字节、阿里、百度、理想、地平线这些公司，身边的同学和朋友有在这些公司工作，大都是23届校招去的同学，了解相关毕业生发展和培养。

深圳AI异构计算-二面1.自我介绍2.项目背景，实际的落地，主要功能啥的，项目多少人，做了多久，基于规则，设备是什么3.RT-DETR与DETR的优化4.大模型推理加速的方法哪些5.attention算子加速6.手撕代码：leetcode 43，leetcode 946

二面1. 自我介绍2. 推理框架的设计，计算图，运行图，内存管理3. 动态图，静态图，动态shape4. 图优化5. warp之间通信6. cuda reduce7. cuda softmax，warp处理与block处理的区别8. block，grid的设置，调度，为什么会影响算子速度9. CUDA的计算模型10.flash attention v1 v2面试时间：45分钟

秋招面了这么多家以来，面试体验最差的一家公司。上来没有让我自我介绍，直接问我为什么没写实习，我说我这不能实习。面试官说不让你去你就不去吗。我说我导师就在我办公室这，经常会喊我，我还是得保证毕业。然后他说大家都是过来人，肯定有办法的。我真是一整个大无语。面试啥也不问，直接喊我写智能指针，然后自己在那玩手机。我写完了喊他，喊几句才理我，也不看我写的代码，直接就喊我写下一个代码，写完了又不看，然后就结束了。30分钟，体验极差。

     小东西目前实习做的方向是深度学习框架AI compiler，除了正在实习的厂以外，只知道华子也有类似的岗位，但听说华子计算部门非常累。字节，美团等其他大厂还有类似的坑吗，马上就要参加秋招了，要换个方向吗😢😢

0905一面  0909HR面0920发测评 1011 OC我说下周一给答复，决定签不签

周一投完这周共5个面试 面完3个 时间冲突放弃1个 周五还剩1个力扣和数据结构没怎么刷先上战场了 面试中目前失败一个（写了65%）研一下到现在学了半年CUDA和TensorRT构建推理引擎 各类模型的高性能算子和高性能推理还缺乏实践 更深的TVM，分布式的deepseed和汇编没时间了 现在迷茫了 要学的很多且可能学完依旧找不到      

目前想要找嵌入式AI或开发相关的岗位，比较迷茫，请大佬们指点下简历以及经验

0923一面1017二面1024HR面一到两周出结果~

0913一面0925二面1010HR面说是通过的话，10月下旬直接谈薪发offer。

一面1.自我介绍2.卷积算子实现3.端侧的大模型部署4.学过计算机哪些课程coding：树形DP

双非研究生，开学后研2。目前在用国产服务器神威做组内项目的并行优化，C和Fortran代码。招聘网站上关于神威的岗位几乎没有，于是想问大佬们是否要转cuda➕ai或者继续做神威，老师手里有一两张A100。          

0910一面0912二面1008HR面HR面后发了测评  

1. PPT介绍2. 问了一些多目标跟踪算法3. 卡尔曼滤波4. 推理框架使用5. CUDA锁页内存问了20分钟的样子，没怎么问

被语音部门捞了8.22测评8.23一面8.29二面9.3三面晚上问HR，告诉我拟录取了，不知道能不能泡出来