小米 数据开发

1. 全参数微调的显存一般怎么估算全参数微调的显存不能只看模型参数本身，真正上线训练时至少要把参数、梯度、优化器状态和激活值都算进去。最粗略的估算方式是：如果模型参数量是 N，训练精度是 bf16，那么参数大约占 2N 字节，梯度再来一份 2N，如果用 Adam，还要额外保存两组一阶和二阶矩，通常再加 4N + 4N 字节。也就是说，不考虑激活值时，单参数相关内存大致可以按 12N ~ 16N 字节估。真正把 batch size、sequence length、checkpointing、并行策略加进去后，激活值往往才是大头。所以面试里如果只答“参数量乘 2”基本不够。更稳的答法是先给出静态...

秋招0offer，估计简历有问题   

我大三tmd逃课去白马培训是吧，你老冯同意了没？

室友今天问我：你怎么投简历投这么快的？ 她看我十分钟投了三家，以为我简历写的很短（不是！） 解释了一下，就是用了网申助手，把重复填表这部分省掉了。 简单说一下是什么： 牛客出的Chrome插件，把基本信息录进去一次（姓名学校专业项目经历这些），之后打开任何网申页面，点一下自动填，不用每次重新输。 我投的这几家都能用：字节、腾讯、美团、阿里、网易、快手，大厂没遇到问题。 【我的用法】 早上统一开几个网申tab，插件自动填好，我逐个检查开放题（自我介绍/为什么选我们要自己写），确认没问题提交。 以前投一家要15分钟，现在五家加起来20分钟，剩下时间拿去背面试题。 【缺点也说一下】 个别小厂识别失败...