字节大模型算法一面-实习面经

1.项目介绍2.在参数高效微调中，为什么优先微调 Attention 层的 Q/K/V/O，而不是 FFN 层？3.RAG 和 GraphRAG 在处理多跳推理时的根本？4.RAG 的整体流程5.GraphRAG 系统整体流程6.RoPE 为什么能实现相对位置编码？7.Transformer 中因果注意力和双向注意力的区别8.手撕代码题：最长连续递增子序列（LeetCode 674）

1.概述与移植简述freertos系统freertos是一个实时操作系统，它内核比较小，可移植性高，适用于多种硬件平台，具有任务调度，中断管理等功能；裸机开发和rtos开发的区别？裸机开发直接对硬件进行操作，没有任务调度机制，需要手动管理内存，没有同步机制；rtos不依赖于硬件平台，可移植性高，有任务调度机制，内存管理机制，和同步机制；2.为什么会在项目中使用RTOS？对于简单的单一任务，我们会考虑裸机开发；但对于业务比较复杂的，我们会使用rtos，可以更好的实现复杂的业务逻辑同时更具有实时性；3.freertos启动流程？1.硬件初始化；2.系统初始化；3.创建任务；4.开启调度器；4.fr...

1.在 RAG 应用中是如何做效果评估具体用了哪些指标2.如何训练用于 RAG 场景的生成模型3.vLLM 的核心原理是什么4.如何增强模型的多轮对话能力5. CoT ( Chain - of - Thought )训练数据如何构造6.介绍vL LM 、量化、 KV Cache 优化技巧7." packing "形式和"多轮对话"形式有何区别？8.LeetCode 72编辑距离

读研期间的第一次面试，体验很差，不知道是不是遇到kpi面了，面试官似乎并不感兴趣，问的也不是很深，基本都答上来了也很顺利，但还是第二天就挂了 ps：年底深圳的实习怎么这么难找？难受，有没有深圳的yy们交流一下 一小时10分钟 全程拷打项目中的八股  1、caffeine缓存时主要存储了什么数据 2、如何能实现按分钟和按小时同时限流，key和value分别是什么 3、spring aop如何实现的 4、用caffeine缓存有什么缺点 5、说一下rag流程 6、如何让大模型的响应时间变小的（stream响应），第一个token时间变小，总体时间如何？ 7、redis要保持数据的一致性有什么解决方...