2024-08-21 09:56 中国科学院大学 自然语言处理 发布于浙江
关注
卓驭 机器学习平台工程师 一面面经
问项目问的很细，但不拷打，纯交流。
中间问了推理加速的选择，大概讲了讲vllm和deepspeed-mii主要的一些推理加速的技术路线。
问了问推理框架的选择，说了一下vllm，deepspeed-mii和sglang的使用体验。
问了问模型增大主要带来的是什么瓶颈，分别讲了计算瓶颈和访存瓶颈。
无八股，无代码题。
方向其实不太匹配，挂了也正常，许愿一个二面吧
#秋招##卓驭科技#
中间问了推理加速的选择，大概讲了讲vllm和deepspeed-mii主要的一些推理加速的技术路线。
问了问推理框架的选择，说了一下vllm，deepspeed-mii和sglang的使用体验。
问了问模型增大主要带来的是什么瓶颈，分别讲了计算瓶颈和访存瓶颈。
无八股，无代码题。
方向其实不太匹配，挂了也正常，许愿一个二面吧
#秋招##卓驭科技#
全部评论
英军而汤包
西安交通大学 算法工程师
出结果了吗？
长颈鹿爱吃榴莲
同济大学 硬件开发
请问投递后多久进面的呀
相关推荐
点赞 评论 收藏
分享
点赞 评论 收藏
分享