1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...

10号下午二面的，今晚才从复试通知链接变成这个进度，求佬解答

总的来说，这是一场收获很大的面试，感觉面试官不是以老员工的角度来拷打我，而是以一个引路人的视角带着我去思考一些场景问题，用一些真实场景来向我展示平时所学应该如何应用，然后问问题也都是笑着和我聊天那种问法，感觉是一个很有人格魅力的人，就是在他面前基本上说不了谎，而且感觉他更喜欢那种真诚地回答以及真实的思考，真的对我自己有很大的帮助，真的给字节点个大大的赞

携程的面试官给人也非常的友好；1.自我介绍；2.开始狠狠拷打项目，面试官也会引导我进行一些题目的回答；3.全程就问了一个八股：乐观锁和悲观锁，以及CAS操作；4.手撕LRU缓存