岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...

😰

几年前还没有chatgpt的时候，刷题真的是很痛苦。刷不出来只能看题解，题解有几个问题：第一个是每次看的写题解的人都不一样，很难有一个统一的思路；第二个也是最重要的是，题解只提供了作者自己的思路，但是没有办法告诉你你的思路哪里错了。其实很少有错误的思路，我只是需要被引导到正确的思路上面去。所以传统题解学习起来非常困难，每次做不出来难受，找题解更难受。但是现在chatgpt能做很多！它可以这样帮助你 -1. 可以直接按照你喜欢的语言生成各种解法的题解和分析复杂度。2. 把题和你写的代码都发给它，它可以告诉你 你的思路到底哪里有问题。有时候我发现我和题解非常接近，只是有一点点🤏想错了。只要改这一点点就是最优解。信心倍增。3. 如果遇到不懂的题解可以一行一行询问为什么要这样写，chatgpt不会嫌你烦。有时候我觉得自己的range写错了，其实那样写也没错，只是chat老师的题解有一点优化，这个它都会讲清楚。4. 它可以帮你找可以用同类型解法来做的题。然后它可以保持解法思路不变，用一个思路爽刷一个类型的题。如果题目之间思路又有变化，它会告诉你只有哪里变了，其他的地方还是老思路。5. 它也可以直接帮你总结模板，易错点。经过chat老师的指导，我最大的改变是敢刷题了。之前刷题需要先找某一个人写的算法题repo，然后跟着某一个人他的思路刷他给的几个题。如果想写别的题，套用思路失败了，没有他的题解，也不知道到底哪里错了；看别人的题解，思路又乱了。这个问题在二分查找和dp类型的题里面特别常见。但是现在有chat老师，他会针对我的代码告诉我我哪里想错了，应该怎么做；还按照我写代码的习惯帮我总结了一套属于我的刷题模板。每天写题全是正反馈！