北方华创 机械工程师 薪资爆料

最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

研二下，找实习😭

注意!!!兄弟们我只是《要被开除》不是真的开除了呀，只是不能出去了，老师说我要是再出去就给我处分开除，不是已经给了呀由于辅导员天天打电话骚扰我和我爸，我爸想让我先回去找老师说说，然后今天凌晨连夜坐车回学校，然后辅导员让我去找他，结果一进办公室他就出去了，过了一会让我跟着他走，原来是去找学院书记去了，然后书记问我成绩怎么样，问我还有多少课，看我成绩不错，就说你急迫找工作的心我理解，但是怎么能不辞而别呢，怎么不跟老师沟通沟通商量商量呢，我说我之前沟通了，你们怎么干的，书记直接来句你商量了我们就要同意吗？真是给我气笑了，我就说那你还说这话干啥，被我怼了一句，直接破防了，猛猛批评我，要给我处分，给我开...