1. 怎么设计一个高并发系统。答了nginx负载均衡，redis，消息队列。。不知道对不对ai的答案：基础设施层 （监控警告：普罗米修斯+熔断：Sentinel）→ 数据层（分库分表+读写分离） → 缓存层 （本地+redis）→ 服务层 （微服务+异步处理+并发控制）→ 接入层（负载均衡：7层nginx 4层lvs + 限流与鉴权）2. 有哪些负载均衡算法。轮询，权重轮询。ai的答案：静态负载均衡算法（nginx基本都支持）：轮询，权重轮询，ip哈希（将同一 IP 的所有请求分配给固定节点）动态负载均衡算法：最小连接数，加权最小连接数，最小响应时间，最少活跃调用（请求）数3. 程序多次full gc，怎么排查问题在哪。答首先排查静态成员变量或集合，然后大对象，循环创建对象。。。4 .juc，线程间能共享什么东西。只知道共享内存，还说了个共享代码？面试官说这道题没答好，还有寄存器5. 为什么有线程安全问题，你知道java中的哪些锁。一开始问了个无锁（读锁？）实现，不知道在说什么。答syncronized，可重入锁，剩下几个不太清楚java里的实现，信号量，条件变量，乐观锁6. 手撕k组链表反转pre=cur报空指针，忘记临时变量存next了，输入输出浪费一堆时间，最后没做出来

武汉线下二面，全程40min，无手撕八股jdk中常用的类，用过什么集合，ArrayList和linkedlist底层原理分别说一下在做dfs的时候应该选哪种集合map类型的集合说一下，concurrenthashmap怎么保证的线程安全实习拷打项目拷打说一个你做项目或者实习中遇到的最大困难，如何定位解决的#后端开发 #面试 #携程

📍面试公司：新浪🕐面试时间：9.29💻面试岗位：大模型推理引擎工程师 一面❓面试问题：1.自我介绍2.项目2-指标提升是指吞吐量还是单个请求的token/s3.项目2-提升来自哪里（答得不会，给后面挖坑了）4.flash attention 的原理？5.项目2-用flash attention 和不用 指标差距多少（指标我是大概测得，后面要重做一下）6.项目2-是在多长序列做的测试（用了flashattention后，应该可以使用更长的序列了）7.项目2-为什么只写了decoding的提升，没有写prefill的提升（那当然是因为我没有测啊）8.项目2-什么卡，理论算力多少（不知道，已经开始冒汗了）9.项目2-nsys和ncu，你不知道理论算力，你怎么知道如何优化10.项目2-你是怎么用的ncu，看了哪些指标（只答了几个特别基础的，当时脑子跟傻了一样，啥都想不起来）11.项目2-你利用ncu，对你的算子做了什么优化（优化都是比着网上抄的，我哪里知道怎么优化啊）12.项目2-量化是调的库吗，还是自己写的？13.项目2-pageattention？是单个token还是几个token一页？14.项目2-prefix cache？15.项目2-持续批处理？16.项目2-投机解码？大小模型是什么？17.vllm用过吗（单卡用过，多卡只看过理论）18.那你讲一下多卡的TP吧（我都说没用过多卡了）19.什么时候按行来切，什么时候按列来切？（我给答反了，说成ffn按列和QKV按行了）20.按行和按列切，通信都在哪里（别问了别问了，我再去好好学一下）反问：1.我应该学什么：transformer结构要熟悉，并行要很熟悉，DP TP PP 必须很熟悉，然后多看看 ep sp一些新的，学会dense模型后，去做moe，学习跨卡的通信，比如通信和计算 overlap等。一定掌握好基础🙌面试感想：我太菜了，好好去学基础，准备春招了

填写的线下面试，在上海09.11 上午一面09.11 下午二面，都是当场通知的通过09.18 HR 面，面完后发英语测评许愿 oc🙏