Pdd招聘 社招校招大量hc

【出海电商】大模型Infra架构工程师(T021461)
岗位职责:
1、负责实现和优化大模型分布式训练以及在线推理系统,提升训练效率和推理性能,包括不限于:架构设计、算子开发、数据处理加速、Checkpoint保存与加载、通信优化等;
2、研究和优化大规模异构加速集群调度、存储、通信互联、监控、Profiling等组件,提升整体硬件利用效率;
3、研究并实现各种模型并行策略(DP/TP/PP/EP/CP)、混合精度、Zero、FSDP、MOE、FP8等技术,加速模型训练,优化显存开销;
4、设计和开发高效的离线、在线推理系统,优化TensorRT-LLM、ONNX-Runtime、vLLM等推理框架,加速整体推理性能;
任职要求:
1、本科及以上学历,具有扎实的计算机基础,熟悉操作系统和网络,熟悉C/C++和Python编程语言,对数据结构&算法设计有较深刻的理解;
2、熟悉至少一种主流的深度学习框架,如Tensorflow或Pytorch;熟悉至少一种主流的模型推理框架,如TensorRT-LLM;
3、熟悉CUDA编程,掌握TensorRT、Cutlass、cuDNN等加速库,有内核级优化经验者优先;
4、具备大型分布式系统开发经验,熟悉MPI、NCCL、Megatron-LM、Deepspeed、FSDP等相关技术;
5、责任心强,思路清晰,技术视野开阔,对业界新技术敏感,喜欢钻研,具有良好的学习能力并注重团队合作;
内推链接:https://taou.cn/a/KDxEhR,内推码:J9m693Pa9i。期待你的加入!我们一起,无拼不青春!(通过此链接投递计入内推,内推简历优先筛选~)
全部评论
点赞 回复 分享
发布于 11-02 11:12 上海
点赞 回复 分享
发布于 10-28 19:17 上海
有大佬投递嘛
点赞 回复 分享
发布于 10-27 19:25 上海
接offer
点赞 回复 分享
发布于 10-27 19:21 上海

相关推荐

头像
10-28 15:08
已编辑
北京理工大学 算法工程师
一面: 上机复盘。问了k-means的算法流程。0927的笔试。问的很宏观,面试官应该不太懂多模态这一块所有一直问的是很宏观的东西对多模态的个人认识,未来的趋势当时给我唬住了,回来一想是因为他不懂细节所以不问问的比较多的是怎么优化模型性能,看得出来面的面试官都是偏模型优化这一块的手写合并区间leetcode.56面完通知过了,等二面。2h later二面:很casual的对话,面试官看着比较富态,相比一面没那么大压力,问的也是推理优化反问的时候说他们是做多卡通信,昇腾硬件这一块的。问了为什么是网安的,却来做ai,我说考研网安分低,但是自己一直在搞算法问了我意向base地点手写两数之和leetcode.1面完通知过了,等三面。30min later三面:提了一下篮球,问我打什么位置,提到了文班亚马提了一嘴支委的工作问腾讯为啥没转正,说了自己的反思,获得了面试官的认可问多模态的看法,未来的发展方向,个人的理解,说了omni和unified的区别问我sora2的创新点,不懂aigc问强化学习和sft的区别,说了我的看法问了一个 python 装饰器的作用计算机系统中 cache 的作用问了我意向base地点反问:对多模态的看法有什么建议,建议我看看模型优化这一块骑车回公司的路上,hr 通知我过了,入池。总结整体面下来感觉没有什么压力,hw的校招生除了人才计划,剩下的应该都是差不多的,也不会卡人,就看愿不愿意去了。整体感觉面试官的精神状态都还可以,不想互联网大厂那么咄咄逼人,那么看重匹配度。面试的地方有茶歇,饿了可以吃,中文还有午餐券,但是晚上就没有了,我下午1.30到的,面完6.10等候的大厅有好多人,看得出来有些人是精心打扮过的,还有的穿了正装,hw在大家心目中分量还是很重的。等下周谈薪和base地
查看12道真题和解析
点赞 评论 收藏
分享
评论
2
1
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务