1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

锐评一下我的简历吧，投几天了都没有找到，成都双非本。

0实习的阶段，不玻璃心，求拷打，我觉得春招是26届我的最后一次入场机会了，但反响平平。只有一两个通过初筛，后续就没有了

我先说一下，我这个是嵌入式应用层的开发。 早上在公司接到的大华的面试，他问我什么时候有时间，我直接坦白了我在实习了，白天不行，问问可不可以安排在晚上，他答应了，安排的晚上八点，我面试完就煮了碗面吃了就开始整理，害怕等久了我就忘了。 首先说一下整体感受，面试官人挺好的，我整个面试过程也特别自信。我感觉面试官对我印象应该还行，当然，其实我也不是他问的所有东西都知道，只是我了解的不够就明说，了解的就多说些，以前面的时候多少有些紧张，现在想通了，反正也就这样，大不了面不过嘛，又不是多大个损失。可能因为我是面试老油条了，面试一点都不慌。我还是强调一下，现在是提前批，很多大公司提前批招人就招的差不多了，所...