字节多模态大模型二面 日常实习

攒攒人品～ 1.讲讲lora微调的原理2.lora微调在代码中时如何实现的3.在微调时参数是如何设的，为什么要这样设，有什么经验吗4.在微调时显存占用大概是多少，如何计算;计算量呢5.你还知道哪些其他微调方式吗，为什么选择lora微调

我曾经也是机器学习纯小白，对算法一窍不通，甚至连Python都只会简单的print语句，一度以为“AI领域的面试实习”是遥不可及的事情。后来我制定了一套精准的三个月计划，不盲目啃书、不囤积资料，只抓核心、重实战，三个月后顺利拿到3家公司的机器学习面试实习邀约，甚至成功拿到offer。这篇文章，我会把自己亲测有效的三个月计划，毫无保留分享给你——不用天赋、不用每天熬8小时，每天1-2小时，跟着走，从ML小白，一步步具备面试能力，真正实现“三个月直接面试”。全程不玩虚的，没有晦涩术语，每一步都有明确目标、具体任务，新手照着执行，就能少走90%弯路。⚠️ 先避坑：小白最容易犯的3个错误在开始计划前，...

欢迎友好讨论，信息共享1.项目拷打2.moe架构的专家路由是对每个token路由还是对每个序列路由3.如果是对每个token路由，那么代码实现时是如何避免写对每个token的循环的4.部署qwen3合成数据时候用的什么框架5.在用qwen3-32b做推理时显存占用是多少6.在多卡上部署模型时，用了什么策略使得GPU利用率能拉满7.讲一讲vllm框架，他是如何保证GPU利用率的8.讲讲flash attention9.算法题：反转链表

1、LoRA 微调的原理LoRA 的核心思想是不直接更新预训练模型里的原始大权重，而是在某些线性层旁边增加一个低秩更新分支，用低秩矩阵去近似权重增量。假设原始权重是 W∈Rd×k，全量微调时直接学习ΔW，LoRA 则把它写成：ΔW=BA其中A∈Rr×k，B∈Rd×r ,，(r) 是远小于 (d) 和 (k) 的秩。这样前向计算就变成：h=Wx+ΔWx=Wx+BAx实际里通常还会加缩放项：这样做的本质是认为很多下游任务对大模型权重的更新其实存在低秩结构，不需要真的去学习一个完整的大矩阵。LoRA 的优点是可训练参数少、显存占用低、训练快，而且原模型参数冻结，方便多任务切换和权重管理。2、LoRA...