1、知道 GPT 和 BERT 这种模型的基础框架是怎样的吗BERT 和 GPT 都是基于 Transformer 的预训练模型，但结构和任务目标不一样。BERT 一般采用 Transformer Encoder 堆叠起来的双向编码结构，在预训练时主要做 MLM，也就是随机遮盖一部分 token，让模型根据上下文去恢复被遮掉的词，因此它更适合理解类任务，比如分类、匹配、抽取、检索表示学习。GPT 采用 Transformer Decoder 堆叠起来的单向自回归结构，在预训练时做 next token prediction，也就是根据前面的 token 预测下一个 token，因此它更适合生成...

双非学校， 八股大概看了一遍，该去投中大厂吗，还是继续沉淀再投。

timeline1.13打电话约面1.20 一面 第二天约二面1.23 二面 过了一个周末约三面1.28 三面2.2 通知三面过 offer审批2.5 oc

纯项目，无八股，感觉面试官挺严厉的。没有深入问细节，都是浮于表面的问题，感觉他不是很懂（？），或者感觉这样他可能觉得我很唐只会这些表面问题？（不过他也没深入问啊）自我感觉不太好。无手撕代码，一共就30分钟。