题解 | #朋友的年龄和#

1. 全参数微调的显存一般怎么估算全参数微调的显存不能只看模型参数本身，真正上线训练时至少要把参数、梯度、优化器状态和激活值都算进去。最粗略的估算方式是：如果模型参数量是 N，训练精度是 bf16，那么参数大约占 2N 字节，梯度再来一份 2N，如果用 Adam，还要额外保存两组一阶和二阶矩，通常再加 4N + 4N 字节。也就是说，不考虑激活值时，单参数相关内存大致可以按 12N ~ 16N 字节估。真正把 batch size、sequence length、checkpointing、并行策略加进去后，激活值往往才是大头。所以面试里如果只答“参数量乘 2”基本不够。更稳的答法是先给出静态...

目标是有班上就行，中厂小厂无所谓，想攒点实习经验。今天写好了简历，有什么要修改的地方吗？现在心里很没底，不知道这样投出去有没有人收😭😭😭

体验最差的一次。🕐面试时间：40min❓面试问题：自我介绍拷打实习，实习是一个偏运维的活，但我面的是后台开发，然后问两个k8s生命周期的问题，一点没准备（这个问题没回答出来，就已经不想要了感觉）让我自由发挥，讲一些能体现自己技术能力的经历（不应该是看简历，挑自己感兴趣的聊吗？）随便扯几个八股糊弄时间（如何保证幂等性，volatile和synchronize）使用vibe coding的心得（中间要引入一个新需求，改好了以后引发后续问题怎么办）🙌面试感想：中间夹杂着两次网络波动（感觉不是我的问题，其他面试都没这样过），感觉整个过程很不耐烦，最后出去秒挂