1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

真投了你又不给ps:楼主其实比起去大厂当螺丝钉 更想去一些初创公司或外企。楼主是一年不到的社招。

有点搞笑了哈哈哈😂

第一次二面，面试官依旧情绪价值很足，只可惜每到面试的时候才发现项目准备的还不够，手撕部分sql忘完尬了好长时间，算法用回溯暴力解了。 前面是专业和实验室项目的一些问题。SSE 与 WebSocket 有什么区别？为什么在这个场景选择 SSE？在项目中采用策略模式和模板方法模式，各自的用途和目的是什么？缓存预热、布隆过滤器、分布式锁分别应对什么场景和问题？查询场景下会有并发安全问题吗？分布式锁能彻底解决并发安全问题吗？分布式锁的超时时间如何设置？什么情况下需要做分库分表？单表数据量达到多少时 IO 次数会增加？原因是什么？高并发但数据量未达到分表阈值时，是否需要分表？高并发下数据库应如何应对？主...