字节跳动内推

今天老师为大家梳理了字节算法岗关于大模型Rag的面试题，供各位同学参考。1️⃣ LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?2️⃣Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。3️⃣位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?4️⃣Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?5️⃣RAG技术：RAG(检索增强生成)的完整链路包含哪些步骤?为什么它能提升生成质量?6️⃣大模型幻觉：大模型产生幻觉的根本原因是什么?7️⃣显存计算：7B 模型在训练和推理时的显存占用如何估算?显存与参数量、批次大小、序列长度的关系是什么?8️⃣实习与论文：详细说明实习中解决的一个技术难点，涉及哪些模型或算法?如何评估效果?9️⃣链表操作：删除链表倒数第 N 个节点的算法思路?如何用双指针法实现?边界条件(如头节点删除)如何处理?📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。    

25.4.28 40min 已挂自我介绍八股从操作系统的角度，谈谈深拷贝和浅拷贝原子性了解吗？++i 是一个原子操作吗IO 多路复用了解吗如何保证并发安全，用过哪些TCP 三次握手时有两个队列了解过吗WebSocket 连接时有哪些操作用过哪些设计模式？懒汉了解过吗Redis 内存淘汰机制有哪些算法最长公共子序列

四月初投递字节数据平台部门，被然后被别的部门捞起来面试了，4月30号三面后迟迟没有消息，今天看原投递的部门结束流程，是不是意味着捞我面试的那个没有通过呀uu有知道的吗

各位大佬本人暑期拿了以下offer 1.智谱 大模型应用主要涉及zf基础服务等智能客服，以及智能工单应用 缺点5个月才能申请转正2.腾讯 csig腾讯云 ai运筹优化算法，考虑ai在装箱算法或者时间序列的算法优化 2个月可以发起转正 转正率估计不超过50%3.阿里云 大模型应用，可能需要对接客户，做ai在车载大模型应用，如rag、微调、rl等 可能不是纯算法 研发时间大概对半开 转正率80%4.商汤 后训练 转正率80%本人倾向于阿里云，请问有没有知道大模型tam怎么样？