比亚迪

最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

记得上次找日常实习从投递到最后offer总共花了51天这次暑期也是惊人的相似，从开始投递到offer也是花了51天暑期总结蚂蚁3月20一面挂阿里所有意向简历挂美团3月18一面挂字节3月17投递3月23一面3月27二面3月30三面，三天后挂+转岗4月10从二面复活4月17三面4月20offer快手4月1日一面4月13日二面4月20hr面百度4月11日一面4月14日二面4月17日三面这回教训就是以后不要在职面试了，实在太累+心态不稳，一开始想着就算没有公司要还能在现在公司赖着，最后活也不想干，面试也不想面感谢字节收留了，听说强度不小（早10晚10），好在base在广州，希望顶住😥😥

开会的时候，你负责的一个数据还没有完全获取到，这时候有人问了一句：“这个确认稳定吗？”你不想把场面弄得太紧张，于是随口回答：“应该没问题。”当时觉得，自己在前面加上了“应该”两个字，属于给自己留了余地了，真聪明但实际上不是这样，别人记住的，以及留在会议纪要材料里的，应该不是“应该”，而是“没问题”等后面数据跑出来，或者项目真的出了问题了，会议纪要里的这句话就会被标黄截图发出来“你当时不是说没问题吗？”本来是不确定的，反而成了一句承诺那，这题怎么解？假如领导在场，不管这个问题是不是他提的，既然被人抛出来，就不能不接不能说“没有把握”，也不能直接说死“能”或者“不能”可以先给一个基准时间，比如：“...