腾讯技术运营（SRE）一面凉经

感觉面的还可以发些面经攒攒人品1.ep的dispatch和combine2.vm最近有什么新的比较好的特性3.dpsk的结构4.tp的allreduce的次数5.kv cache的大小计算6.MQA和GQA手撕

1.CV和NLP的区别与联系2.在Transformer框架下，CV、NLP、语音是否可能统一？3.大模型训练数据清洗、处理、配比的方法4.大模型训练如何更容易提升模型性能5.Encoder与decoder的中Attention区别?6.Attention如何计算?为什么除以根号下Dk?mask attention是如何实现的?7.讲GQA、MQA、MLA原理。8.为什么要用位置编码?为什么要用sin_cos?9.问之前实习的Agent的设计逻辑，问创新方法的实现。10.你提到用DeepSpeed做SFT训练，请讲一下DeepSpeedZeROStage1-3的区别，以及什么时候用FSDP会更好?11.什么是大模型的幻觉，如何缓解12.为什么会有复读问题，业内有哪些解决办法13.大模型工具调用的实现方式14.Agent的组成部分及实现方法15.问Agent的工具tool的设计，是否是workflow形式。16.了解哪些agent开发框架，例如langchain和Llamalndex，核心应用场景有何不同?17.问数据的输入输出格式如何保证大模型输出稳定的json做了哪些工作?18.开放题:你在大模型训练中遇到过的困难，如何解决?19.代码题:实现一个Tokenizer

阶跃星辰 一面聊项目 几本无八股 30mins结束两小时后通知通过 晚上约二面二面 让我介绍项目 问了SVD 还有kv cache项目讲的一坨 （有些忘了 + 当天第四面神智不清了）反问哪里不足 说我不熟悉我的项目第二天下午通知挂蔚来汽车更是灾难级别表现，感觉不是很match，我投错了。面试官说不重要，只要能来干活就行。问了问项目，然后手撕旋转mxn 矩阵一格，矩阵从外到内层数为0,1,2……什么偶数层顺时针旋转 奇数逆时针旋转。不会换了道题 翻转链表（a，b）部分，a，b为节点位置，没写出来，只会写翻转链表[哭惹R]总之一坨

各位大佬有没有懂的ai infra如何入门的，有没有什么好的项目适合入门做的/看看源码（比如nano-sglang/vllm）（感觉自制推理框架已经烂大街了）。🤔🤔