因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...

下周一就要去实习了。大家一开始进去都是干什么的？

保洁的一天：用细节守护整洁日常早上7点准时到岗，先到物业办公室领取清洁工具和消毒用品，核对今日清洁清单——重点负责写字楼3-5层的公共区域、卫生间及会议室，开工前先给拖把、抹布分色分类，避免交叉污染。7点半从5层开始往下清洁，先擦拭走廊扶手、电梯按钮和墙面踢脚线，用含氯消毒液按比例稀释后，仔细擦拭高频接触部位，每擦完一处就记录消毒时间。接着清扫地面，对瓷砖缝隙里的灰尘，用小刷子仔细清理，再用湿拖把拖净，最后用干拖把吸干水分，防止地面打滑。9点切换到卫生间清洁，先更换洗手池旁的洗手液和卫生纸，再用除垢剂清洗洗手池、马桶内外，重点清理马桶底座和地漏周围的污垢，之后用清水冲净，用干布擦干水渍，最后喷...

去年秋招最灰暗的时候，我总在深夜刷牛客。某个帖子下，我随手发了句“投了七十份简历全挂，是不是该放弃了”。十分钟后收到条陌生私信：“给你看看我的。”附件里是张密密麻麻的Excel表，标红拒信的栏目长得触目惊心，最后却有个绿色高亮的单元格写着：“第104次投递，终于。”那个深夜，我们隔着屏幕分享了同一包虚拟薯片，他发来句话：“失败不是履历的空白，是底色。”今年春天实习，我遇到位总沉默擦桌子的保洁阿姨。有次我加班改方案到崩溃，她突然放下抹布，从围裙口袋掏出颗薄荷糖推过来：“我女儿也是做电脑的，她说难受时就吃颗糖，甜味能熨平脑子里的褶子。”后来我才知道，她女儿五年前车祸去世了。那颗糖我一直没吃，它躺在抽屉里，每次打开都让我想起：这世上总有人，正默默用自己破碎的心，去缝合别人的裂缝。上周整理面试资料，发现文件夹里除了简历作品，还存着许多奇怪的东西：地铁口奶奶送的栀子花照片、深夜便利店店员多给的关东煮丸子照片、还有面试路上总是对我摇尾巴的流浪狗视频。原来求职路上最珍贵的从来不是offer，而是那些让你在坚持不下去时，依然愿意相信人间值得的瞬间。我们都在奔赴各自的人生，但那些交汇时互赠的光亮，足以照亮很远的荒原。