1. 全参数微调的显存一般怎么估算全参数微调的显存不能只看模型参数本身，真正上线训练时至少要把参数、梯度、优化器状态和激活值都算进去。最粗略的估算方式是：如果模型参数量是 N，训练精度是 bf16，那么参数大约占 2N 字节，梯度再来一份 2N，如果用 Adam，还要额外保存两组一阶和二阶矩，通常再加 4N + 4N 字节。也就是说，不考虑激活值时，单参数相关内存大致可以按 12N ~ 16N 字节估。真正把 batch size、sequence length、checkpointing、并行策略加进去后，激活值往往才是大头。所以面试里如果只答“参数量乘 2”基本不够。更稳的答法是先给出静态...

三月底投到现在至今0约面，是哪里出了问题，是背景问题还是简历问题呢希望大佬指点一下改了一版新的，求大佬们看看

找暑期实习ing。。。现在几乎都是挂在二面。主要原因是我八股基本是只背高频，背的不全面，而且有些地方是硬背的，禁不住深挖，尤其项目混着八股或者场景题一起深挖的时候更是禁不住拷打，但感觉禁不住深挖这件事也不是我简简单单突击一下就能搞定暑期的。。。或者就是问了好多AI相关的知识，没背过体系化的AI八股整理，好多也不会或者只是听说过但是讲不出来。。。虽然次次二面挂，但是挂的也不算冤，不是那种聊得很好但是还挂掉的，是确实很多答不上来而且吧，最开始两次一面挂的时候，我是清楚的知道是哪没学好（因为没答上来的问题都只是因为没背熟）。现在次次二面挂，答不上来的问题都不是那种常见问题了，想补一补某个模块的知识都...