海思ai软件开发求助

两个项目，一个导师项目，一个星球项目。C++也不熟，想找推理部署相关的。但是目前投递情况最好的还是一个岩山科技，二面挂了。其他的大中小厂没一个给面。目前就一家小公司蛙声科技的岗位，JD上写的是部署相关，查了下公司应该还是正规的，不过不涉及算子和NPU，要求吗感觉要找不到工作了，想去银行，但又怕无领导面。我只想找个至少说的出名字的公司就行。

发一下问题给大家参考，攒攒人品！1.llama.cpp了解吗?详细说说它的特点2.对DeepSekk 671B模型进行推理时，是如何做算力分配和负载均衡的?3.大模型推理中的量化技术了解吗?常见的量化方法有哪些?4.对称量化和非对称量化的区别?5.KV cache的原理是什么?在推理中起什么作用?6.用过vLLM吗?它相比传统推理框架有什么优势?7.vLLM中的PagedAttention机制是怎么工作的?解决了什么问题?语言基础C++协程(Coroutine)的特点?C++协程有栈和无栈的区别?cpp20协程是有栈还是无栈?Vector emplace_back和push_back的区别?常量指针和指针常量的区别?算法题（easy）LeetCode经典题:走迷宫问题(DFS/BFS)

发一下问题给大家参考，攒攒人品！有面试过同岗的朋友欢迎评论区交流项目拷打1. 数据布局详解：NHWC vs NCHW：在训练/推理中怎么选？2. 何时应该关闭 Shared Memory？（当出现 Bank Conflict 严重或收益不如直接访问 L2 时）3. 特定 Shape 导致使用 Shared Memory 时结果异常如何排查4. Thread/Warp/Block/SM/Grid 的映射关系5. 如何确定最优线程数？6. 异步设计：CUDA Stream 的使用前提（无内存访问重叠）7. 算子融合决策，什么场景适合融合

发一下问题给大家参考，攒攒人品！1. 项目相关的访存优化问题2. 算子融合的实现难点3. 负载均衡问题4. 如何判断优化是否到瓶颈了5. 常见量化策略