微软Bing社招6轮面经

攒人品中～ 1.介绍一下Transformer的架构，和传统RNN循环神经网络相比有何优势2.Transformer中参数都分布在哪里，参数量最大的是哪部分?计算量最大的是哪部分，为什么?3.了解GPU的cudacore、Tensorcore吗，你常用的GPU有哪些，他们的显存和显存带宽有多大?4.讲讲大模型的量化，讲量化算子5.详细讲pd分离6. 详细讲paged atten7.LC25题:K个一组翻转链表8.写cuda算子:前缀和。实现一个base的，讲优化方法9.写cuda算子gemm:实现一个base的，讲优化方法

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1.实习拷打2.你会怎么和用户沟通需求？3.针对AI教育这类产品有进行横向对比过吗？4.通过哪些渠道了解AI讯息？5.用你熟悉的获取信息方式对比GPT，CLAUDE, GROK, GEMINI, MANUS,DEEPSEEK几个厂商中做的deep research功能，限时15分钟6.平时用过哪些AI产品，做过什么对比？7.关于目前AI大模型的最新资讯有了解吗？8.关于目前AI大模型的最新资讯有了解吗？9.你说到Qwen3改进了推理模式和非推理模式的随机切换，知道它的原理吗？除此之外它还有哪些改进？10.针对AI智能体（manus，扣子空间）你在使用上觉得有哪些可以改进的地方？11.针对你说的智能体在plan过程和report过程的不足，你怎么向研发提需求？12.你说的这个属于一句话需求，能不能把变成它更具体的需求？13.你有提到对cursor的使用，那你作为产品经理，如何把cursor这个产品拆解出几个板块，并说明这些板块所需的功能？

ai infra八股：1- 给定训练所需的Tokens，怎么估计模型训练所需的完整时间？2- Prefill和Decode阶段各有什么优化技术？3- 什么是Two-batch overlap，什么场景Two-batch overlap是负优化？4- megatron-lm中通信优化怎么做？5- 多机PD分离会有KV cache transfer开销，为什么还要做PD分离？6- muon和AdamW的pretrain和posttrain为什么不能混用？7- 如何看待跨SM的PD分离和AF分离？8- cuda的global memory和shared memory访存分别需要注意什么？9- deepseek-V3的优化点10- deepseek-DSA和NSA，MoBA的区别11- nccl中的通信源语有哪些？all-reduce参数更新一次参数需要几次通信？12- 在小数据量场景使用NVSHMEM，每个GPU直接读取其他GPU的数据，在本地reduce，相比ring all-reduce的好处13- 训练时如何设计超长序列下的并行14- 将Ampere架构的算子适配到Hopper架构的卡上，你会对哪些地方进行升级改造？

给我面没招了，觉得自己好菜...1. 先问fp42. 量化的矩阵乘维度3. 先问硬件怎么做量化的。4. 量化的硬件需要啥5. 问了一些gpu的问题。6. 怎么分析系统瓶颈。7. 问了flash attn。7.1 有什么用？7.2 矩阵维度推导。7.3 k包不包含q的那个17.4 多头多batch怎么并行