乐元素 AI推理研发工程师 社招 一面
主要工作内容;模型部署是一小部分,大部分是提升AI服务的吞吐,保证系统稳定性
1.自我介绍
2.问项目,模型掉点如何排查,如何选型推理设备,vllm了解多少,为什么能加速。RAG、rerank如何使用,怎么提升命中率
3.系统性排查系统瓶颈,用户请求,推理服务,结果返回
4.如何设计AI服务,让系统利用率最大
5.手撕,字符串包含数字和符号,返回可能包含的ip地址
6.反问
1.自我介绍
2.问项目,模型掉点如何排查,如何选型推理设备,vllm了解多少,为什么能加速。RAG、rerank如何使用,怎么提升命中率
3.系统性排查系统瓶颈,用户请求,推理服务,结果返回
4.如何设计AI服务,让系统利用率最大
5.手撕,字符串包含数字和符号,返回可能包含的ip地址
6.反问
全部评论
相关推荐

点赞 评论 收藏
分享