1. 自我介绍2. 训练一个 decoder-only 大模型时，为什么 embedding 层和 lm head 常常共享权重权重共享本质上是一种参数高效和统计一致性的设计。输入端 embedding 学到的是“token 到向量空间”的映射，输出端 lm head 学到的是“隐藏状态到词表概率”的映射，如果这两个空间本身就在描述同一个词表语义，那么共享权重可以减少冗余参数，并让输入语义空间与输出判别空间保持一致。从优化角度看，共享权重还能起到轻微正则化作用，尤其在词表非常大时更明显。代价是模型表达自由度下降了一点，但对大多数语言模型来说这个损失远小于收益。很多实现里会保留一个独立 bias...

有点搞笑了哈哈哈😂

看着像是已经挂了，但是又给我发笔试链接了（上周我自己申请的），还有必要做吗，刚好和b站的笔试冲突了

一面，有点偏综合面吧。首先自我介绍。问项目，介绍一下项目，项目几个人参与了，你负责什么模块。项目中有没有遇到过很紧急的状况？怎么解决的？主要的编程语言。八股进程和线程的区别以及通信方式，进程和线程如何解决并发。网络通讯当中，了解哪些通讯方式。知道哪些调试的方法？平时用哪些？运行期有没有遇到过问题，怎么定位问题的原因和位置？（这方面问的比较细，我答得一般般，说的不太好）有没有遇到过内存泄漏的问题，有什么定位的方法。（这里答得也不太好，说只会看代码，工具不会用）了解的锁。问一些场景题。项目开发的过程中，有没有遇到过问题，怎么解决的？对自己未来的规划？反问。感觉不是一般的技术面，更多的是一些处理问题...