1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

求助，怎么改进。约面都没有🙂‍↔️  

分享一个蚂蚁timeline3.25 一面3.30 二面4.2 HR面4.10 意向书

一共两轮（技术+hr）技术面1.先简单的自我介绍一下2.当时你们这个项目人员配备是怎么样的？我引出了项目的背景...3.讲一下你这段实习经历干了什么？4.你再介绍一下你这个项目吧？5.说一下redis常用的数据类型吧？6.比如我现在要实现一个场景如何保存页面的一个点击量和用户量，你会怎么设计？（场景设计题）我回答的是，在刚刚谈到的我提取出了一个关键信息就是无论一个用户访问了多少次同一个页面，都只算一次，那这个体现的其实就是唯一性，我会想到用set的数据类型进行存储，key放的是页面url，value放的是user_id。对于像页面点计量，其实我想到一个比较简单的，用string数据类型就行，因...