求帮忙选offer
投票
楼主实习都是做的AI Infra,主要是大模型推理,在N卡上做vLLM和sglang的二次开发、简单算子开发、pytorch开发。本身秋招投的都是云侧大模型开发,但是也收到了一些其它稍微有点偏的方向的offer,所以非常纠结,想问各位大佬怎么看。
1. 百度飞桨:百度飞桨框架的开发。技术上应该很不错,但毕竟飞桨生态不太行,且百度在走下坡路?
2. 字节TT中台:感觉似乎非常核心,但是面试强度并不高,所以担心是不是有坑。且是偏传统推荐模型,而非大模型,和本身的预期有些偏差。但是TT背书很强?
3. 腾讯太极:腾讯内部机器学习平台GPU推理训练框架开发,但是偏k8s后端,而非大模型推理加速本身,只是可能他们需要懂vllm和sglang的人。但是同部门似乎也有做ai infra的组,或许未来可以转?
4. 阶跃星辰:端侧大模型infra。整体都挺好的,公司和政府绑定,端侧前景应该不错,只是需要从云转端。另外校招就去初创会不会不太好?
5. 拼多多:gpu上具体vllm的infra开发,技术上很对口,聊的过程也感觉很好。优点就是匹配且钱非常多,缺点就是确实似乎有点太累了。
目前的offer情况就是,业务非常对口的要么是中小厂(没有列出,但是也不是那种实力很差的小厂,而是一些大佬云集的初创,但是整体风险会更高,且应该没有很成熟的校招生培训体系),要么是拼多多(太累)。
大厂要么是飞桨这种生态比较差的,要么是字节TT这种完全不是做大模型的,甚至腾讯这边是做传统后台开发的。所以非常纠结,想听听大佬们的看法。
1. 百度飞桨:百度飞桨框架的开发。技术上应该很不错,但毕竟飞桨生态不太行,且百度在走下坡路?
2. 字节TT中台:感觉似乎非常核心,但是面试强度并不高,所以担心是不是有坑。且是偏传统推荐模型,而非大模型,和本身的预期有些偏差。但是TT背书很强?
3. 腾讯太极:腾讯内部机器学习平台GPU推理训练框架开发,但是偏k8s后端,而非大模型推理加速本身,只是可能他们需要懂vllm和sglang的人。但是同部门似乎也有做ai infra的组,或许未来可以转?
4. 阶跃星辰:端侧大模型infra。整体都挺好的,公司和政府绑定,端侧前景应该不错,只是需要从云转端。另外校招就去初创会不会不太好?
5. 拼多多:gpu上具体vllm的infra开发,技术上很对口,聊的过程也感觉很好。优点就是匹配且钱非常多,缺点就是确实似乎有点太累了。
目前的offer情况就是,业务非常对口的要么是中小厂(没有列出,但是也不是那种实力很差的小厂,而是一些大佬云集的初创,但是整体风险会更高,且应该没有很成熟的校招生培训体系),要么是拼多多(太累)。
大厂要么是飞桨这种生态比较差的,要么是字节TT这种完全不是做大模型的,甚至腾讯这边是做传统后台开发的。所以非常纠结,想听听大佬们的看法。
全部评论

这几个里面,建议拼多多或者百度:
1、百度确实是在走下坡路,但对上面这几个企业放一起PK的话,差别没有那么大,更多是方向的区别。
2、字节、腾讯,方向偏了,后面再活水怎么也得挺过1、2个绩效季,耽误时间,而且能不能过去两说,大模型这股风起得太快了,早一年进入,早一年挣钱。
3、阶跃星辰,六小龙难混了,这是巨头们的游戏。
综上,在百度、拼多多中二选一吧。
再有问题可以私信详细交流
秋招吗,不看薪资吗
感觉字节好一点
相关推荐

点赞 评论 收藏
分享
08-24 15:25
门头沟学院 Java 点赞 评论 收藏
分享