字节大模型算法二面 好难

1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

比如我会给AI说：“现在开始模拟Java三年经验的技术面试。你先问我一道高频题，我回答后你给我反馈——哪里答得好、哪里可以补充、如果我是面试官我会追问什么。”。然后就是我答，AI继续追问我没有回答的点是怎么理解的。

ps：如果这篇帖子对于还在找工作和找实习的你有所帮助，可以关注我，给本贴点赞、评论、收藏并订阅专栏；同时不要吝啬您的花花一、事务的定义事务（Transaction）是MySQL中一组不可分割的SQL执行单元，它将多个SQL操作（如插入、更新、删除）封装成一个整体，要么全部执行成功并永久生效，要么全部执行失败并回滚到操作前的状态，以此保证数据的一致性和完整性。简单来说，事务就是“要么全做，要么全不做”的操作集合。例如，银行转账场景中，“从A账户扣除100元”和“向B账户添加100元”这两个操作必须封装成一个事务，若其中任意一步失败，整个转账过程都要回滚，避免出现A账户钱少了但B账户钱没多的异常情...

求各位牛爷爷指点