字节实习 大模型算法 面经分享

1、自我介绍2、通俗讲一下大模型从训练到落地到评测的全过程可以把大模型看成一个先大量学习、再针对任务训练、最后真正上岗工作的系统。第一步是预训练。这个阶段会给模型非常大量的文本，让它去做“根据前文预测下一个词”这样的任务。比如给它一句“今天天气很”，它要预测下一个字可能是“好”还是“热”。这个过程做得足够大以后，模型就会学到语言规律、常识知识、一些推理模式和表达能力。第二步是微调或者对齐。预训练出来的模型虽然懂很多东西，但不一定会按人的要求回答，所以还要进一步训练。比如给它大量“问题-答案”数据，让它学会更像助手一样回复，这就是 SFT。有些场景还会继续做人类偏好对齐，比如让模型学会什么回答更...

给我面没招了，发点面经攒攒人品～1.项目深挖2.attention计算公式，为什么除以dk3.ppo损失函数，解释，各部分是什么4.mha、mqa、gqa、mla5.交叉熵损失手撕6.位置编码有哪些，rope7.mse损失，gae损失，大模型里面怎么算8.大模型里面的ppo，returns是什么9.vit位置编码、二维位置编码、相对位置编码、多模态位置编码

1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

项目 1.Spark如何解决数据倾斜，有哪些方式2.有没有排查过JVM异常和调优3.SPARK 调优有哪些4.kafka 如何保证数据不丢失5.redis 数据存储多少key，满了如何处理，过期时间如何淘汰数据6.Java 并发编程了解哪些，线程池7.死锁条件，以及乐观锁和悲观锁8.手撕：最长公共子串，用的dp，但是面试官问有没有优化空间，不会。。。。还以为有ai经验面试，结果没有，纯古法和八股