小白关于笔试时间的疑问

1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

看来得重新踏上征程了。后悔之前oc之后没有走其他的流程。

学java第六天，效率太慢了把游戏删了我再玩是sb

发面经攒人品没问太深，而且问的时间不到半小时，无手撕代码，感觉有点像kpi面。自我介绍啥时候能来实习实习干的什么，实习了多久，讲讲实习具体的工作redis大key问题是什么，怎么优化比如有个hash的大key，某个版本拆开后删掉了，那么怎么保证数据的一致性如果有很多商品，redis内存不足了，怎么办？你选择哪种淘汰策略？你选了最近最少使用，那么一个刚刚被淘汰的又被查询了，会发生什么？讲一讲项目中分布式锁的使用场景和实施方案Threadlocal内存泄露讲一下，怎么避免如果业务逻辑抛出异常了，会不会导致最后的remove没有执行？你怎么确保一定remove了？你做的这个agent项目是基于开源项...