CUDA

Time line3.12 一面 hr面3.13 二面 技术面3.17 三面 技术面3.24 oc一面主要就是聊聊天，介绍公司基本情况以及薪资待遇（正常来说，这不应该三面么）二面1.简单介绍一下你自己2.拷打项目，几种常见卷积算法的优缺点3.写算子时有碰到bank conflict吗？为什么会发生bank confict以及如何解决？4.说一下CPU和GPU的架构5.说一下你对grid，block，thread的理解6.写算子时如何最大化地利用缓存？迭代一次的数据尽量符合L1的大小，整个程序的数据尽量符合L2的大小。（当时我的回答）7.你知道线程束分歧吗？（warp divergent 也叫线程束分化）8.手撕矩阵乘算子（当时我打开vscode，他看了我写的reduce以及conv2d，于是便叫我写一个矩阵乘）第一次技术面，有点紧张，在面试官的提示下顺利写出naive版本，然后说自己对后面的优化，以及如何确定最佳分块大小。过程中还问了blockDim.x和gridDim.x最大能开多少。反问环节三面感觉和二面差不多，主要也是拷打项目不同点：1.共享内存和cache的区别2.你了解Tensor core吗？它和CUDA core比加速矩阵乘谁更快？3.你了解Transformer吗？4.softmax算法在深度学习中的应用5.手撕softmax算子（有了经验后，十分顺利）反问环节最后祝大家都能顺利找到实习

学校是个双非， 也没有开过 HPC 相关的课程， 暑假才确定好自己的职业方向， 简历上已经是我所有的领域相关的知识了， 0 实习 offer 也是意料之中， 所以想问问接下来应该怎么学。接下来我应该会啃一些 AI-Infra 的库， 比如 cuDNN、cutlass 等， 或者去深入补一下训练框架的那一套， 或者去了解一些 AI 编译器相关(龙书还没看完...)， 如 TVM 什么的。但我觉得学习是个循序渐进的过程， 如果只是先找个实习， 上面的东西应该了解到什么程度。还有这一方向的项目怎么完全没头绪， 是不是还是领域论文占主导啊。

搞AI的同学们看过来！👀 还在愁没有卡跑实验？还在做调包侠？ 我们公司【AI Infra】校招/实习岗位正式上线啦！🎉 加入我们，让你实现算力自由，直接站在大模型时代的最风口！🌪️💻 【你将做什么】 不再是边缘打杂！你将深度参与：1️⃣ 大模型训练/推理框架的优化与加速（CUDA/Triton玩起来！）2️⃣ 万卡级分布式训练的稳定性建设与调度3️⃣ 深度学习编译器、算子优化等硬核底层开发 👉 在这里，每一行代码都直接影响大模型的训练效率！🎁 【你能得到什么】🔥 算力自由：告别抠抠搜搜，海量GPU任你调配！🧠 大牛带飞：资深Infra专家1v1 Mentor，技术栈飞速升级💰 薪资拉满：行业Top级待遇，实习薪资也极具竞争力！🍔 花式福利：四餐免费/饮料畅饮/打车报销🎯 【我们需要这样的你】📍 2026/2027届毕业生（本科/硕士/博士均可）📍 熟悉C++/Python，了解底层架构，对性能优化有极致追求📍 了解PyTorch/CUDA/分布式训练等加分🌟📮 【投递方式】见图二 群二维码，和候选人一起交流内推链接：实习内推码：d4txvrqYqq校招内推码： d4tqaHqTq名额有限，先到先面，我们在办公室等你来卷！🏃‍♂️💨大模型 实习 深度学习 秋招 找工作 算力