1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

灵神太强了，写力扣没这么爽过

搞笑呢？？？？？

最近很多股东反应自己面试的时候紧张到呼吸困难，手心呼呼冒汗，很多原本准备好的问题都回答的坎坎坷坷。这其实是个很常见的问题，大部分的同学从小学到大学接受的教育一直是应试教育，上课站起来回答问题都紧张，爬个黑板能手心的汗能在黑板上烙个汗印，只会闷头做卷子。再加上本身是个i人，发挥的更不好了。很多同学紧张的点在于害怕失败，特别是面大厂的时候，觉得好不容易有一次面试机会生怕失去，其实大厂也是厂，不是说你进了大厂就能飞黄腾达光宗耀祖之类的，说白了属于计算机的红利差不多已经过去了，可能还有一些拿到很高薪水的，那也是凤毛麟角且朝不保夕，所以先对这些公司平等的祛魅。面试节奏通常一场面试上来会先让你自我介绍，这...