中科曙光-c++研发-二面

1. 自我介绍
2. 项目介绍
3. 端侧部署大模型做的移植工作
4. kv cache的管理
5. 如何优化大模型的部署推理加速
6. 推理框架的设计
7. 计算图的设计
8. 量化的原理
9. 量化出现过大的误差该如何处理
10. 量化算子是如何计算的，计算图会发生哪些变化

聊了一下职业发展和目标城市，一共30分钟
#高性能计算#
#高性能计算面经#
#牛客创作赏金赛#