发展前景

发点面经攒攒人品！1. 实习中对你影响最大的一个人？他/她教会你什么？2. 你对第一份工作最核心的期待是什么？3. 短期1年 & 长期3年，你的职业规划？4. 你了解自动驾驶行业的HPC需求吗？比如时延/吞吐/功耗权衡？5. 你觉得这个岗位需要什么性格特质？6. 你最有成就感的一次工作？

发一下问题给大家参考，攒攒人品！1.llama.cpp了解吗?详细说说它的特点2.对DeepSekk 671B模型进行推理时，是如何做算力分配和负载均衡的?3.大模型推理中的量化技术了解吗?常见的量化方法有哪些?4.对称量化和非对称量化的区别?5.KV cache的原理是什么?在推理中起什么作用?6.用过vLLM吗?它相比传统推理框架有什么优势?7.vLLM中的PagedAttention机制是怎么工作的?解决了什么问题?语言基础C++协程(Coroutine)的特点?C++协程有栈和无栈的区别?cpp20协程是有栈还是无栈?Vector emplace_back和push_back的区别?常量指针和指针常量的区别?算法题（easy）LeetCode经典题:走迷宫问题(DFS/BFS)

给我面没招了，觉得自己好菜...1. 先问fp42. 量化的矩阵乘维度3. 先问硬件怎么做量化的。4. 量化的硬件需要啥5. 问了一些gpu的问题。6. 怎么分析系统瓶颈。7. 问了flash attn。7.1 有什么用？7.2 矩阵维度推导。7.3 k包不包含q的那个17.4 多头多batch怎么并行

给我面没招了，感觉自己好菜、面试很难，还是要多多练习，感觉自己说不明白业务逻辑1.说一下vllm里schedule的过程；2.说一下vllm请求被抢占后续会怎么样；3.说一下投机采样推理时草稿模型和主模型交互流程，vllm和sglang中的实现有什么区别；4.说一下gptq量化、smooth quant原理；5.介绍一下DeepSeek V3 eplb推理；6.mla在prefill和decode时的计算复杂度区别，听说过mla矩阵吸收优化吗；7.dsv3.2有什么创新点；8.sglang里多模态如果开了tp，vit的image embedding在多个进程里是怎么高效复用的