高通的笔试是不是东西太多了点

1.实习介绍2.论文工作介绍3.为什么构建这个benchmark4.构建数据集的时候遇到哪些问题，怎么解决5.选择这个微调模型的原因6.mplug的框架7.视觉编码器用的什么8.线性投影层具体情况9.qwen2的结构10.transformer的计算11.了不了解其他的transformer或者attention12.用了多少卡13.怎么做的分布式训练14.zero3不适合训练使用的原因15.介绍论文的多阶段CoT微调16.lora的原理17.lora的初始化18.矩阵B 为什么用0初始化19.手撕：一个字符串中出现次数最多的字符以及次数20.反问的时候还问了强化学习的原理

本人臭二本一名，在某A轮上市公司工作云运维工程师且即将转正,想趁着还没毕业混混大厂经历什么的,于是搜狐畅游给了我一次云运维开发的面试,感觉G了，下面说说都问了啥吧1.自我介绍一下2.假设让你维护一千台或者上万台集群怎么处理？答：日常巡检每台不太现实，主要基于监控如prometheus等将监控划分指标和反馈实例信息，对症下药3.假设其中有两台需要升级配置，如何进行配置的更新和记录？可以开发脚本或者程序如通过lscpu命令记录服务器信息，和python脚本实现服务器的规模，但基于ansible（应该是这个）出现错误，无法回滚，我不是很认可的。4.有没有python开发经验没有，主要是爬虫学了学5.web框架有用过么都是些简单的，如Flask+css+js+html6.为什么来到这个公司答：拓宽视界，对规模化的集群架构想了解和突破自己的瓶颈，并对云运维开发拥有兴趣反问：1.运维与开发占比答：6 4开2.多久上线一次答：基本每周3.实习生一般在哪里租房？答：看你自己评价：面试氛围舒适，脱离八股范畴，开放性技术题，交流舒服，面试官回答很有耐心 我的感觉：GG

好想问大家Java和大模型都是怎么选的，感觉Java技术栈太多了，但是直接转大模型学习，怎么说，也是从零开始，所以很纠结，想看看大家的看法

1. Encoder与Decoder中注意力机制存在哪些差异？2. 注意力机制的计算流程是怎样的，为何在计算时要除以根号下Dk，掩码注意力机制又是怎样达成的？3. 阐述GQA、MQA、MLA的原理分别是什么。4. 位置编码的必要性体现在哪里，为何选用sin_cos函数进行位置编码？5. 询问之前实习中Agent的设计思路，以及所提创新方法的实现方式。6. 提及使用DeepSpeed开展SFT训练，请说明DeepSpeed ZeRO Stage 1 - 3的不同之处，以及何种情况下使用FSDP更为合适。7. 询问Agent工具的设计情况，是否采用workflow形式。8. 了解哪些Agent开发框架，像langchain和LlamaIndex，它们的核心应用场景有何区别？9. 针对数据输入输出格式，为保证大模型输出稳定json格式，采取了哪些措施？10. 若Agent推理API需要低延迟响应，会从哪些方面开展系统级优化工作？11. 代码考察：给出LeetCode第34题，在排序数组中查找元素的第一个和最后一个位置