顺德农商银行

刚开始工作的时候，下班别急着走太早。很多东西在学校是学不到的，刚进公司正是熟悉环境、了解项目、学习经验的时候。可以多看看代码、多请教同事，也多了解一下团队的工作方式。哪怕每天多待一会儿，积累的经验都会慢慢变成自己的能力。刚工作的阶段，眼前的时间投入，其实都是在为以后打基础。

26年是不是都要大力搞AI，现在做Agent就是最好的方向吗。。

1、知道 GPT 和 BERT 这种模型的基础框架是怎样的吗BERT 和 GPT 都是基于 Transformer 的预训练模型，但结构和任务目标不一样。BERT 一般采用 Transformer Encoder 堆叠起来的双向编码结构，在预训练时主要做 MLM，也就是随机遮盖一部分 token，让模型根据上下文去恢复被遮掉的词，因此它更适合理解类任务，比如分类、匹配、抽取、检索表示学习。GPT 采用 Transformer Decoder 堆叠起来的单向自回归结构，在预训练时做 next token prediction，也就是根据前面的 token 预测下一个 token，因此它更适合生成...