4.13 完美世界笔试

入职巨人快1年了，如果有人问我：“入职后最让你惊喜的是什么？”我的答案不是薪资，不是福利，而是我的导师。事情要从入职第一天说起。那天我怀着忐忑的心情走进工区，还没来得及找到自己的座位，就有人拍了拍我的肩膀。“你就是xxx吧？我是你导师，叫我xxx就行。”说实话，我当时挺懵的。我印象里的“导师”，应该是那种高高在上、偶尔指导两句的角色。但他完全不是这样。他直接把我带到工位上，递给我一张打印好的纸：“这是我给你列的入职首月计划，前两周熟悉框架，第三周开始跟需求。有什么不懂的，随时找我。”那张纸上密密麻麻写满了内容——技术栈清单、核心模块说明、常见问题FAQ，甚至连食堂哪家好吃、工卡怎么补办都写了。...

我大三tmd逃课去白马培训是吧，你老冯同意了没？

我投的后台开发。。。这还要面吗

1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...