新华三综面

1. 如果想要在某个模型基础上做全参数微调，究竟需要多少显存？这个问题不能只看模型参数量，还得把训练时真正占显存的几部分一起算进去。全参数微调时，显存通常会被下面这些东西吃掉：模型参数本身梯度优化器状态前向传播保存的激活值CUDA 运行时和框架缓存如果用的是 AdamW 这类优化器，除了参数之外，还要额外维护一阶矩和二阶矩，所以训练显存会明显高于推理显存。一个比较粗糙但实用的经验是：全参数微调的显存，往往是模型权重显存的 6 到 12 倍左右，具体还得看序列长度、batch size、是否开 gradient checkpointing、是否做 ZeRO/FSDP 分片。拿 7B 模型举例，F...

27届Java实习

😢 飞书电话会议。我真的搞不懂，那些问题我基本上都回答出来了，咋回事呢。

游卡服务端开发面经（已oc） 一面1.自我介绍2.虚函数和多态3.vector删除一个元素如何实现的，讲讲移动语义，如何回收一个vector的内存（创建一个空的，移动给现在的（挺巧妙））4.讲讲几种智能指针的应用场景、weak_ptr如何保证在使用期间资源不失效的5.socket编程的流程6.进程、线程、协程7.cpu计算密集型任务用多线程还是多协程,为什么8.死锁是什么，如何解决9.每次生成1个1到1亿的随机数、且不重复10.反问二面+hr面1.自我介绍2.实验室项目拷打，做的东西偏底层，为什么想来做游戏3.bustub，为什么用B+树4.了解innodb的页面组织形式吗5.了解mangod...