招银一面9.7

1. 全参数微调的显存一般怎么估算全参数微调的显存不能只看模型参数本身，真正上线训练时至少要把参数、梯度、优化器状态和激活值都算进去。最粗略的估算方式是：如果模型参数量是 N，训练精度是 bf16，那么参数大约占 2N 字节，梯度再来一份 2N，如果用 Adam，还要额外保存两组一阶和二阶矩，通常再加 4N + 4N 字节。也就是说，不考虑激活值时，单参数相关内存大致可以按 12N ~ 16N 字节估。真正把 batch size、sequence length、checkpointing、并行策略加进去后，激活值往往才是大头。所以面试里如果只答“参数量乘 2”基本不够。更稳的答法是先给出静态...

昨天面试官打电话来说有事情，晚点发个邮件调整一下时间，结果今天显示流程结束了，要发一封邮件问问吗

timeline3.9投递3.19一面3.31二面4.1告知二面通过免三面4.2hr面4.3oc人生第一次面试就是字节，没想到最后竟然能oc。（ 免三面真的很意外😳）

📍面试公司：拼多多🕐面试时间：3.17一面->4.2二面💻面试岗位：测试工程师❓面试问题：1.自我介绍2.实习时间都不长为什么？3.实习过程中负责了什么业务模块，具体请求链路是怎样的？然后就是一直问实习，问的比较仔细4.比如一个业务迭代版本比较多，可能存在一些历史遗留问题，这种情况下你有哪些方案能避免？5.开发提测后你发现问题比较多，影响你的进度，这样情况下你可以哪些事情？6.手撕：前K个最大的数字反问🙌面试感想：手撕寄了，秒挂