联合电子14k

1. 自我介绍2. RAG 怎么优化，评估时你会看哪些指标RAG 的优化一般不能只盯着生成端，很多问题其实出在检索阶段。常见优化思路包括 query rewrite、chunk 切分策略调整、混合召回、重排序、上下文压缩和引用约束。比如文档切得太碎，召回会有信息断裂；切得太长，又容易把无关信息一起带进来，生成端会受污染。真正线上效果好的 RAG，通常不是“某个 embedding 更强”，而是检索、排序、上下文组织和回答约束配合得比较好。评估时我一般拆成两层。第一层看检索，比如 Recall@k、MRR、HitRate，看相关证据能不能被捞上来；第二层看生成，比如答案正确率、faithfuln...

求内推

难道前端真的已经不行了？

一般情况下，我们聊到“大模型的量化”，想到的大概率是“把FP16转成INT8或INT4，从而降低显存、加速推理”。其实我觉得工程上没毛病，因为很少有人会去探索啥玩意是量化，但你要是放在算法岗的面试上，这样通常是不够的。面试官往往会继续追问：精度明明降低了，模型为什么还能正常工作？什么时候量化会失效？如果这时答不上来，基本就已经失分了。（我的答案放在文末）要把这个问题讲透，可以换一种更有层次的表达方式，从“是什么”到“为什么”，再到“什么时候不行”和“怎么选方案”，逐步展开。首先，从本质上看，量化并不复杂，它做的事情就是用更少的比特去近似表达原本的高精度参数。原本一个FP16权重用16bit表示...