蚂蚁国际AI应用开发一面分享 攒人品中

给我面没招了,发点面经攒攒人品~
1.实习拷打
2.介绍一个比较熟悉的项目
3.多路检索的作用是什么?怎么对多路检索的结果进行融合?
4.意图识别怎么做到的?
5.多路检索比单路检索的召回率提升多少?
6.会话记忆怎么做的?
滑动窗口具体怎么设计的?
摘要压缩用的什么压缩算法?
7.公平排队是怎么设计的?是只针对请求还是也会区分用户?如果有100个用户都来访问,但是1个用户就发了大量的请求甚至能让大模型崩溃,有处理吗?
8.如果收到了用户恶意的请求,比如让输出一些大模型的私密信息等等,有防护吗?
9.调用的是什么模型?有比较过不同模型的效果吗?
10.熔断降级的效果是什么?
11.做项目的时候有什么难点吗?
12.分块用了什么方法?
13.问了一些缓存结构相关的问题,CacheAside模式还有二级缓存这些
14.ThreadLocal里面存了什么?什么时候清除?
15.为什么在写操作的时候是删缓存而不是更新缓存?
16.场景题:如果用二级缓存做一个展示商品信息的业务,那么本地缓存和redis中分别存什么数据?
全部评论

相关推荐

04-24 17:20
门头沟学院 Java
发一下问题给大家参考,攒攒人品!1.实习拷打2.拷打第一个项目:如果长表格被切分到了两个不同的Chunk,如何保证大模型在回答时不丢失表头信息?为什么不直接把图片转成描述再做文本检索,而是做视觉Embedding?有什么好处?3.拷打第二个项目:你是如何设定记忆总结的触发条件的?是根据对话轮数总结,还是根据Token消耗量来总结?如果测评量表返回的数据量非常大,超过了模型窗口,在不丢失核心指标的前提下,如何对工具结果进行预压缩?4.为什么在做RAG时,切片不能切得太长,也不能切得太短?5.什么是混合检索?为什么一些场景下,只用向量检索效果不好?6.如何在Prompt中设计拒答逻辑,让模型在知识库没有相关内容时,不强行生成答案?7.什么是CoT?它在提升Agent逻辑推理能力方面的原理是什么?8.在Function Call的过程中,大模型返回给后端的是真实运行的结果,还是调用的意图?9.拷打Transformer10.了解MySQL吗?在MySQL中,如果要存储用户的对话记录,你会选择哪种字段类型?为什么?11.Redis有哪些常见的数据结构?12.为什么在大模型应用中,会把一些重复的问题和答案存入Redis缓存?13.介绍一下如何利用Redis存储大模型的响应结果?14.如果两个用户的提问意思一样但表达不同,如何判断该不该命中Redis里的缓存?15.在分布式Agent环境下,用户的Session应该存放在哪里?16.手撕:无重复字符最长子串
查看16道真题和解析
点赞 评论 收藏
分享
评论
点赞
1
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务