阿里云AI应用研发面经分享-实习

攒人品中，祝大家都能拿到满意的Offer！1. RAG的召回时K值怎么选？2. 了解排序和重排序的延迟大概是多少吗？3. 介绍一下LoRA微调中的rank和alpha参数？4. 介绍一下HashMap底层结构和实现原理？5. HashMap扩容判断：数组长度怎么扩展？扩容的判断条件是什么？6. 哈希冲突处理：两个key哈希值相同，除了插入同一链表，还有哪些处理方式？7. 多线程下如何保证HashMap线程安全？8. SSE是什么样的请求和返回形式？和WebSocket的区别是？9. SPI机制和哪个设计模式会比较像？日常还用哪些设计模式比较多？10. 介绍一下HTTP3.0。

基础得先打牢。LLM的基本原理要懂，不需要能训练模型，但得知道prompt怎么写、上下文窗口是怎么回事、为什么模型会幻觉。这些是地基，地基不稳上面全是空中楼阁。然后是框架。LangChain和LlamaIndex是目前用得最多的，几乎每个Agent项目都绕不开。但别只会调API，得理解它们的设计思路，比如chain是怎么串联的、memory是怎么管理的、tool calling是怎么实现的。RAG是必学项。Agent大量依赖外部知识库，向量数据库至少要会用一个，embedding是怎么回事要清楚，检索策略怎么优化要有概念。工程能力别忽视。Agent本质上还是个软件系统，API设计、异步处理、错...

继续来分享下最近的面经~欢迎友好讨论，信息共享1. 实习拷打2. 在RAG系统中，它一般的召回阶段的排序策略通常有哪些？如果一个用户在召回的时候，他的查询是一些长尾或者是语义模糊的关键词，你怎么去提升这个召回的准确率？3. 召回排序的过程有几个阶段或几个层次？4. 有哪些方式可以改写Query，为什么能够提升这个召回精准度？5. RRF融合中，它的K参数一般取值是多少？大一点、小一点对结果有什么影响？6. 在你的项目里面，实际召回中有遇到不准的情况吗？在你们这个提升准确率的过程中，你们去做了哪些事情去提升，怎么做？7. 如果在查询中间，输入的一些极其模糊的表达，在实际工程中间要怎么去做呢？8. 那如果要做这么一个AI，你具体怎么去提示他，怎么去做？遇到这种一次性说不清楚话的用户，那你这个agent怎么去解决这一类的问题？9. 怎么去降低整个项目的一个幻觉？从数据、检索和生成这三个方面去阐述一下10. Agent项目如何设计评测方案11. 后端压测性能优化，如何定位问题之后是两个场景题：1. 假如需要你去设计一个电商客服agent的评测方案。这个agent主要有三类任务：商品咨询、售后咨询、还有投诉安抚。你需要去设计一个完整的评价系统，主要包括测评的维度指标，以及数据集的构成构建方案。然后如何区分这个agent到底是好还是坏，你怎么去设计？比如说我们就开发了一个这样的客服系统跑在线上，你总得有一些衡量的指标，你怎么去建这个衡量指标，怎么得出来这个agent是比较好的、比较提效的？比如说在安抚这个场景，用户的满意度是很难去衡量的，那你需要假如说让你设计一些指标，或选取一些指标去衡量用户是否满意，你觉得怎么去提取或者是设计这个指标？2. 假如让你负责一个文本转SQL的模型训练集的构建，你只有500条真实标注样本，需要你去覆盖200多个查询模式（单表查询、多表连接、聚合查询等等），需要你设计一个完整的数据生产流，包括合成策略、怎么控制质量，以及怎么去迭代优化，你怎么去设计？再之后是两道ai coding

项目深挖很多，也聊到了互联和软件硬件协同最近面了一场阿里云的 AI Infra 二面，整体感受是，这轮不是那种偏八股或者偏刷题的面试，更像是围绕项目经历一路深挖，看你到底有没有真的做过优化，也看你对自己后面想做的方向是不是足够清楚。开头还是常规自我介绍，我主要讲了自己现在在做的方向，包括 AI Infra、异构计算、底层性能优化，以及一些算子开发、图优化、推理优化相关的经历。后面的问题也基本都是顺着这些内容往下展开。前半段主要是在深挖项目。面试官先问了我现在做过的几类事情，我把内容归成了三块：一块是算子优化，一块是算子融合和图优化，还有一块是一些稳定性问题和 bug 修复。这里他问得比较细，不...