5555真的好哭

1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

双非学校， 八股大概看了一遍，该去投中大厂吗，还是继续沉淀再投。

这个世界太疯狂了

做网申助手之前，我们做过一个调研： 填一张网申表单平均要多久？ 收到的回答集中在 15-20 分钟。 按这个算——投30家 = 7.5 - 10 小时投50家 = 12.5 - 16 小时投100家 = 25 - 33 小时 这还不算信息填错要重填、填到一半崩溃放弃的那几家。 有个同学告诉我们，他投了60家，算下来光填表花了快15个小时。15个小时，够刷50道算法题，背两轮八股，或者多睡几个整觉。 【我们做了什么】 把重复信息录一次，之后自动填。 打开网申页面，点一下，姓名学校专业项目经历联系方式全部自动填好，你只需要检查开放题（自我介绍/为什么选我们要自己写）然后提交。 支持字节、腾讯、阿里...