一些思考

之前面试时，面试官叫我共享屏幕，让我展示自己写的项目，看我打开idea，他就疑惑我居然用这么复杂的ide，然后就问我常用哪些快捷键，后面更绝的是惊讶我会上github，还问我怎么上，我都不好自己说，这面试官怎么看着这么业余，这还是技术面

1. 你的RAG项目主要什么作用2. RAG项目工作流程是什么3. 你的RAG项目出现问题，怎么进行排错4. 大模型微调过程中数据预处理的步骤有哪些？5. 如何解决大模型Agent的工具调用 幻觉问题？6. LoRA微调技术是什么？7. 大模型Agent的记忆机制分为哪几类？8. 大模型后端部署常用的框架有哪些？9. 全参数微调与轻量化微调的适用场景分别是什么？10. 大模型Agent实现复杂任务规划的核心方法有哪些？11. 大模型推理服务的性能优化手段有哪些？12. 如何设计大模型微调后的效果评估体系？13. 大模型Agent对接第三方API时，后端如何做接口鉴权、限流与异常捕获？14. 大...

太难了。平时没咋刷题的弊端暴露出来了

1. 写一下 attention 公式，代码实现一下attention 的公式是：计算过程就是三步：先算 (Q) 和 (K) 的相似度分数，再做缩放，然后过 softmax 得到权重，最后用这个权重对 (V) 加权求和。 import numpy as np def softmax(x): x = x - np.max(x, axis=-1, keepdims=True) exp_x = np.exp(x) return exp_x / np.sum(exp_x, axis=-1, keepdims=True) def attention(Q, K, V): dk = Q.shape[-1] ...