小厂全栈实习值得去吗？

1. 全参数微调的显存一般怎么估算全参数微调的显存不能只看模型参数本身，真正上线训练时至少要把参数、梯度、优化器状态和激活值都算进去。最粗略的估算方式是：如果模型参数量是 N，训练精度是 bf16，那么参数大约占 2N 字节，梯度再来一份 2N，如果用 Adam，还要额外保存两组一阶和二阶矩，通常再加 4N + 4N 字节。也就是说，不考虑激活值时，单参数相关内存大致可以按 12N ~ 16N 字节估。真正把 batch size、sequence length、checkpointing、并行策略加进去后，激活值往往才是大头。所以面试里如果只答“参数量乘 2”基本不够。更稳的答法是先给出静态...

继上次三方毁约后，又拿到了腾讯社招offer

大家好，今天我们来聊聊 C++ 中的 Lambda 表达式。Lambda 在 C++11 中引入，它提供了一种定义匿名函数对象的便捷方式，常用于回调、泛型编程等场景。在面试中，Lambda 的实现原理常常被问到，因为它涉及了C++的很多核心概念。 我们来看一个 Lambda 表达式的例子： auto lambda = [value = 10](int x) mutable { ++value; return x + value; };  这个Lambda表达式做了什么？它捕获了一个变量 value，并将其初始化为 10（注意：这里使用了 C++14 的初始化捕获，因此不需要外部有一个变量 va...