第 15 题：LoRA（Low-Rank Adaptation）的数学原理 题目 解释 LoRA（Low-Rank Adaptation）微调的数学原理。 一、动机 全量微调大模型要更新全部参数，显存与算力成本高。LoRA 假设预训练权重在适应新任务时，有效更新是低秩的，因此只学习一个低秩增量，与原权重相加得到适应后的权重，从而大幅减少可训练参数与显存。 二、数学形式 设某层线性变换为 ，。LoRA 不直接改 ，而是增加低秩分解的增量：  其中 ，， 为秩。前向时：   训练：只训练 、， 冻结；参数量从  变为 。 推理：可把  算好存成一张矩阵，等价于单层线性，无额外延迟；或保留  分开算...

一股神秘的力量，我是不是被资本做局了

这家公司疯了吧，5个人招我，我又不是什么稀缺资源这家看样子应该是外包公司

暑期找了一个月左右，最后拿到腾讯cdg的offer了。个人感觉现在暑期后端确实是很卷，可能是因为后端的hc在逐渐缩小吧。普通本科生面试机会相对会少很多，本人之前有一段百度实习，但是也过不了很多公司的简历。对于面试过程，感觉有了实习之后面试官会减少问八股，甚至不问，都是一些实习的深度拷问或者问延申的一些场景题。感觉有一段能跟面试官聊的实习经历还是很重要的，另外就是ai相关的也很重要，需要持续学习。面试经常会被问到具体的ai相关实践，一些概念，还有对ai的个人见解等。timeline4.1约面 4.3一面 4.9二面 4.15三面 4.16HR面 4.20转录用评估 4.21oc