ai Infra求职

1.实习介绍2.针对项目提问3.FlashAttention原理，Online softmax，有没有看过cuda kernel，FlashAttention V1,V2,V3，FlashDecoding原理4.推理优化的思路（方法）有哪些5.用没用过vllm/SGLang，原理6.有没有听说过Dynamic Batching7.Coding：写一个ruduce，用block，优化版：用warp shuffle，能不能再优化？8.加载到shared memory和直接从HBM取input比为什么更快9.有没有听说过shared memory的bank conflict10.反问：在哪些地方可以继续提升自己

1.leetcode无重复字符的最长子串图论：岛屿数量、岛屿最大面积链表：反转链表、删除链表中重复的元素II、K个一组反转链表二叉树：层序遍历、中序遍历前K个高频元素滑动窗口最大值动态规划：买卖股票全系列，最长回文子串，最长公共子序列，编辑距离合并区间回溯：括号生成2.非leetcode快排二分查找写一个开三次根号函数，误差在1e-5输入123输出321用随机数函数randf（）表示概率，如从一个数组中取出某个数的概率为0.5这样3.cuda尽量不要写naive版本reduce（至少要用warp shuffle）二维大矩阵reduce，（1000000，128）矩阵reduce到（1，128）GEMM的一些优化方法（一个thread算多个数，数据复用；访存合并；双buffer边读边算；避免bank conflict）layernormsoftmaxonlin softmax

各位大佬有没有懂的ai infra如何入门的，有没有什么好的项目适合入门做的/看看源码（比如nano-sglang/vllm）（感觉自制推理框架已经烂大街了）。🤔🤔

中山研0，本科末九。读研期间方向是ai Infra，目前已经找到阿里实习，内容是做dit模型的推理加速。 硕士期间出顶会应该不现实，但是乐观估计可以有三段大厂实习（不完全垂直）。这种情况下推荐之后就从事ai Infra了吗