乐元素 AI推理研发工程师 社招 一面

主要工作内容;模型部署是一小部分,大部分是提升AI服务的吞吐,保证系统稳定性

1.自我介绍

2.问项目,模型掉点如何排查,如何选型推理设备,vllm了解多少,为什么能加速。RAG、rerank如何使用,怎么提升命中率

3.系统性排查系统瓶颈,用户请求,推理服务,结果返回

4.如何设计AI服务,让系统利用率最大

5.手撕,字符串包含数字和符号,返回可能包含的ip地址

6.反问
全部评论

相关推荐

评论
1
1
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务