1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

想找到暑假实习，有希望吗（大二）

上周三约了字节的这周一晚上的面试，对应的hr加我微信了当时，第二天我就考虑了准备再做新项目转agent开发所以给这个hr说取消了，结果今天字节打电话问我为什么没有面试，这怎么办是不是面评完蛋了

工作氛围：强度：不如美团，这边正式工大概八九点的样子下班，会少，不开日会，在美团感觉每个人都好忙，白天一直在开会对齐，滴滴这边感觉就是很“安静”； 业务：滴滴做引擎架构，算是核心组，于我而言业务难度比美团难很多，一直在加班看业务看链路，主要也是我菜。这段时间就一直在学go，看业务、看链路+干一些杂活； 福利：和美团不相上下，也很开水，每天晚上30餐补，但是不能提现，第二天就清零，9点之后打车报销，除此之外就没啥了； 培养：感觉滴滴的培养比美团要多一些？至少我是这样，mentor三天两头问我链路有没有不懂的，每周都要找时间1 on 1解疑答惑，且leader告诉我mentor要让我做完整的项目，...