华为大模型算法

项目和八股 1.grpo哪个阶段最耗时2.rollout采样3.使用过 verl 框架吗4.verl 框架为什么需要重新 forward 计算 log probs5.dapo 的几个创新- clip-higher- Dynamic Sampling- token级别优势计算6.大模型推理优化 答了deepspeed 等 不行 说这个是训练方面的- 推理主要分为两个阶段  prefill+decoder- 量化：用低精度比如int8保存 参数 激活值  KVcache- KVCache 量化（vllm也采取了pageAttention，将KV cache当成虚拟内存+页表 按照固定的page进行管理）- GQA- flash attention反问

最近收到很多同学私信：“AI岗位那么多，我该从哪个入手？”“非科班想进AI，选什么岗位成功率最高？”今天简单和大家说说AI的相关岗位入门路线，底层入门岗 → 中层应用岗 → 高层研发岗💡一些小建议：大一/大二：同时学Python和数学基础（高数/线代）；大三/研一：主攻「AI应用开发」或「机器学习工程师」，积累2-3个实战项目；研二/研三：目标「深度学习算法工程师」，冲刺顶会论文或竞赛，争取大厂核心部门实习；AI岗位没有“绝对好坏”，只有“是否适合你”。非科班同学可以从应用开发切入，数学好的同学可以走算法路线，重要的是“开始行动”——哪怕先做一个小项目，也比空想半年更有意义。--以上内容只是...

上海ai lab是高性能编译，会有一部分国产芯片适配的活，其他时间自由探索小红书这边的业务主要做rl infra和推理优化，但有点卷，活很多，自学时间有点少

投了快2000份，这几天面试都吻上来了，八股已经可以做到无前摇输出了双非真是太难了，拿到一个制造业的实习，业务不是很好，但是没其他实习，问了一些大佬，都是说有实习就不错了，但是我想进互联网的公司啊